Første verdenskrig er i full gang. Flyet til de to franskmennene Maréchal og Boëldieu blir skutt ned av tyskeren von Rauffenstein, men flygerne overlever angrepet. Tyskeren inviterer dem på lunsj, men sender dem så videre til fangeleiren Hallbach. Der møter de den franske jøden Rosenthal. På tross av sine ulikheter, utvikler mennene et nært forhold, og prøver sammen å holde ut i en vanskelig tid. De setter blant annet opp et talentshow i fangeleiren, men hovedsysselen deres er å arrangere fluktforsøk. De flykter, blir innhentet av tyskerne og sendes til en ny fangeleir. Og slik går dagene, helt til de blir sendt til Wintersborn, et garantert fluktsikkert middelalderslott under oppsyn av von Rauffenstein.
Von Rauffenstein behandler sine fanger svært ulikt. Han føler seg knyttet til Boëldieu, som er aristokrat som ham selv, og forsøker å få ham over på sin side. Boëldieu er på sin side knyttet til proletaren Maréchal, siden de begge er franskmenn i krig og har det samme religiøse grunnsynet. Franskmennene er venner, men deres ulike status får etter hvert en sterk betydning for forholdet dem imellom.
Den store illusjonen er en krigsfilm uten ytre krigshandlinger. Den sentrale konflikten og dramatikken ligger i forholdet mellom de fire mennene. Filmen handler om grenser, mellom mennesker så vel som nasjoner. Renoir forteller en svært troverdig historie om krigen som skulle gjøre slutt på alle kriger. Regissøren kjempet som alpejeger og pilot under første verdenskrig. Uniformen som Jean Gabin brukte under innspillingen var den samme som Renoir selv brukte.
Goebbels utropte Renoir til "filmatisk folkefiende nr. 1". Den store illusjonen ble forbudt både i Tyskland og Italia og man trodde lenge at filmen ble ødelagt i et bombeangrep i 1942. Det viste seg heldigvis at en tysk nazioffiser og filmaktivist som befant seg i Paris, hadde smuglet den tilbake til Berlin. Da russerne inntok byen i 1945, ble kopien sendt til et arkiv i Russland. På 1960-tallet gikk Renoir i gang med å restaurere filmene sine. Han var ikke klar over at det fantes en kopi av Den store illusjonen i Moskva, og jobbet med en gammel og ødelagt versjon. På samme tid byttet arkivet i Moskva noe materiale med et arkiv i Toulouse. Blant dette materialet var originalutgaven av nettopp Den store illusjonen, som for øvrig var den første utenlandske filmen som vant Oscar for beste film.