En juillet 2001, le Real Madrid (élu meilleur Club de football du 20e siècle par la FIFA) réussit à faire signer Zidane pour la somme de 77 millions d'euros[18], ce qui constitue alors le record du transfert le plus cher[19]. Les premières années madrilènes de Zinedine lui permettent d’engranger un titre de champion d’Espagne et surtout de remporter son unique Ligue des Champions. En finale de la LDC contre le Bayer Leverkusen, Zizou inscrit d'ailleurs l'un des plus beaux buts de sa carrière (élu meilleur but de la Ligue des Champions par la Fifa). Suite à un centre de l'arrière gauche brésilien Roberto Carlos, Zidane, qui porte alors le numéro 5, effectue une reprise de volée du pied gauche qui fait trembler les cages du stade Hampden Park à Glasgow, ce but est baptisé « la volée de Glasgow » par les supporters madrilènes[20]Mais la politique des « Galactiques » mise en place par Florentino Pérez, à savoir l'achat systématique des joueurs les plus médiatiques comme Zidane, David Beckham, Ronaldo ou Luis Figo montre ses limites. De 2003 à 2006, le grand Real ne gagne aucun trophée et fait preuve, aussi bien sur le terrain qu’au sein de l’effectif ou de l’organigramme du club, d’une instabilité constante. Ce sont ces raisons, ainsi qu’une condition physique déclinante, qui pousse le numéro 10 français à annoncer sur la chaîne de télévision Canal+, le 25 avril 2006, qu’il prendra sa retraite à l’issue de la Coupe du monde, en Allemagne.
Zinedine déclare qu’il n’a plus le même niveau ni la même constance qu’au zénith de sa carrière et décide de résilier son contrat, un an avant son terme. Le départ de Florentino Pérez, l’homme qui l’a fait venir au Real, joue sans doute également un grand rôle dans sa décision. Zidane joue le dernier match à Bernabeu contre Villarreal où il marque un but de la tête, devant un public célébrant son départ. Tout le public madrilène porte son maillot avec le numéro 5 et une pancarte sur laquelle est inscrit Gracias por tu