En raison des positions politiques de son père (antiroyaliste), Costa-Gavras ne peut étudier en Grèce où le régime écarte les opposants et est contraint de fuir Athènes à 19 ans pour pouvoir étudier. Il rejoint Paris, où il s'inscrit en licence de lettres à la Sorbonne tout en travaillant pour assurer sa subsistance. Il s'est intéressé au cinéma en se rendant à la Cinémathèque française qui se trouvait à l'époque rue d'Ulm. Il cite notamment Les Rapaces d'Erich von Stroheim comme l'un des films qui lui fit découvrir que le cinéma pouvait montrer des choses sérieuses. Il est ensuite admis à l'Institut des hautes études cinématographiques (IDHEC). Il travaille comme assistant pour Henri Verneuil,Jacques Demy et René Clément.
Le film Le Jour et l'Heure, pour lequel il travaille comme assistant, lui permet de rencontrer Simone Signoret et Yves Montand, avec lesquels il deviendra très ami. Découvrant le livre Compartiment tueurs de Sébastien Japrisot, il en fit le scénario et réussit à y intéresser le producteur Julien Derode ; le film eut du succès en France et même aux États-Unis, où il reçut des critiques dithyrambiques.[réf. Nécessaire]
C'est lors d'un séjour en Grèce qu'il découvre le roman Z, de Vassilis Vassilikos, retraçant l'assassinat du leader de la gauche organisé par la police et camouflé en banal accident. Dès son retour, il écrit le scénario du film Z en collaboration avec Jorge Semprún. Ne trouvant pas le financement, il en parle à Jacques Perrin, qu'il connaissait depuis le film Compartiment tueurs. C'est à cette occasion que Jacques Perrin va créer sa propre maison de production pour monter le film et utiliser ses contacts, en particulier en Algérie, où sera tourné le film. Jean-Louis Trintignant a accepté un faible cachet et Yves Montand a accepté de participer. Le film a été un succès à travers le monde et les gens applaudissaient à la fin des séances ; il a été récompensé par le « prix du Jury » au festival de Cannes, l'Oscar du « meilleur film