Ved Sommer-OL konkurrerer atleter i mange sportsgrene, inklusive gymnastik. Denne disciplin er til stede i konkurrenceprogrammet fra det første OL i 1896 i Athen.
Gymnastik er en af de sportsgrene, der kan bringe mange medaljer til en bestemt atlet og landslag. Det moderne OL-program tilvejebringer præsentation af 14 sæt priser. Mænd konkurrerer om priser i det absolutte mesterskab, holdkonkurrence, gulvøvelser, hvælving, øvelser på parallelle stænger, ringe, en hest og en tværstang. Hos kvinder erstattes de sidste 4 skaller med ujævne bjælker og en log.
På det allerførste OL i 1896 blev der kun afholdt konkurrencer for mænd i gymnastik. De fleste af priserne - 10 - blev modtaget af atleter fra det tyske imperium. Holdene fra Grækenland og Schweiz var også værdige.
I 1908 optrådte gymnast fra det russiske imperium for første gang ved OL. Dette var atleter fra Finland, og de optrådte under deres lands navn, omend under det russiske flag. Det finske hold modtog bronze i holdkonkurrencer.
For første gang var kvinder i stand til at deltage i gymnastik-konkurrencer ved OL i 1928 i Amsterdam. Derefter fik de kun lov til holdkonkurrencer. Blandt kvinderne hold vandt Holland førstepladsen.
I 1952 udvides konkurrenceprogrammet markant. Blandt kvinder begyndte der at afholdes absolut overlegenhed såvel som konkurrencer i individuelle apparater. Helsinki-OL var en triumf for sovjetiske gymnaster. Dette var deres første deltagelse i OL. Som et resultat vandt atleter fra USSR 22 medaljer, hvoraf guld i mænd og kvinder hold og absolutte mesterskaber.
I de følgende spil blev sovjetiske atleters succes gentaget. Som en del af det sovjetiske hold, Larisa Latynina, en gymnast, begyndte at udføre, modtog hun de mest olympiske medaljer i sportshistorien.
Siden 60'erne er programmet for konkurrencer i gymnastik ikke ændret. Der blev dog indført nye krav til atleter. Fra 90'erne til konkurrencer er piger under 16 år ikke tilladt, selvom der tidligere var tilfælde af modtagelse af medaljer og fjorten år gamle.
Russlands succeser i sammenligning med Sovjetunionen i denne sport er blevet mere beskedne. Dog er der håb om, at situationen udjævnes med fremkomsten af en ny generation af unge atleter i store sportsgrene.