El 10 de julio de 2001 fue presentado como jugador del Madrid y se le entregó la camiseta con el número 5, que anteriormente había vestido Manolo Sanchís. «Es un honor venir a Madrid y creo que ha llegado el momento de jugar en España». La noticia acaparó la mayoría de las portadas de la prensa europea, que, en general, aprobaron el fichaje del club español.Se cifró la operación en €73.5 millones,] convirtiéndolo en su tiempo en el fichaje más caro de la historia del fútbol. Aunque al principio le costó acomodarse en un equipo lleno de estrellas, culminó la temporada anotando un gol con una impresionante volea que daba la victoria por 2-1 al Real Madrid ante el equipo alemán del Bayer Leverkusen en la final de la Liga de Campeones de 2001-2002, celebrada en Glasgow, y que fue considerado por la UEFA el mejor gol de las finales de la Liga de Campeones. También ganó con el club blanco la Supercopa de Europa de 2002, la Liga de 2002/2003 y la Supercopa de España de Fútbol de 2003. En las 5 temporadas que jugó en el Madrid, la 2002/2003 fue quizás la que más rendimiento dio a lo largo de la temporada, y en la que ganaron la Liga y con la presencia de Figo y también Ronaldo, Zidane tendría mejores socios para hacer su fútbol. En la primera temporada, la aclimatación al equipo le costó un poco, pero con el gol de la final de la Champions quedó "borrado" cualquier contratiempo en el rendimiento del francés. El resto de las temporadas no fue precisamente afortunado ni para el Real Madrid ni para Zidane a nivel individual. Con la llegada de Beckham, y luego Owen, el equipo bajó el nivel de juego de grupo, y sólo se caracterizó por ser un conjunto de individualidades que resolvían con gran precisión los partidos, dejando mucho que desear a la hora de desplegar un juego colectivo. Precisamente este último concepto es el que aportaba el Barcelona de Ronaldihno y que les superó por aquel entonces a nivel competitivo y de juego. Con la camiseta blanca Zidane coincidió con talentos del fútbol mundial de gran talla: Luís Figo, Ronaldo, Raúl González, Roberto Carlos, Fernando Hierro, David Beckham, Iker Casillas ó Michael Owen entre otros. Este elenco de jugadores, reunido bajo el mandato del presidente blanco Florentino Pérez sería bautizado por la prensa como "Los Galácticos", lo que a su vez se convertirá en espada de doble filo para los intereses del vestuario madridista y que desembocaría en la dimisión de Pérez por no haber entendimiento entre los jugadores y el proyecto que el Presidente deseaba para el Club. El 7 de mayo de 2006 Zinedine jugó su penúltimo partido con el Real Madrid, y último en el Santiago Bernabéu, frente al Villarreal CF. El partido acabó empatado 3-3, durante el cual Zidane marcó el segundo gol para el Madrid. Todos los jugadores del Real Madrid jugaron con ZIDANE 2001/2006 escrito bajo el logo del club. Al final del partido se intercambió la camiseta con Juan Román Riquelme, del Villareal. Fue ovacionado por los aficionados al grito de merci. Lloró visiblemente en el campo, volviendo a salir a saludar a la grada tras la finalización del encuentro, siendo éste uno de los momentos más emocionantes de su carrera. En su último encuentro jugado con el Real Madrid, ante el Sevilla FC en el Estadio Ramón Sánchez Pizjuán, Zidane también anotó un gol, aunque se despidió de la Liga con derrota (4-3).
