se presentó en los Juegos Olímpicos de 2000 en Sydney como el más joven nadador masculino con 15 años de edad. Aunque no obtuvo medallas en las Olimpiadas del 2000, Phelps pronto se hizo un nombre en la natación.

Cinco meses después de Sídney, Phelps mejoró la plusmarca mundial de 200 m mariposa y después volvió a mejorar su propio registro en los Campeonatos del Mundo de Fukuoka, Japón (1:54,58). En los Campeonatos Nacionales de 2002 en Fort Lauderdale, Florida (Estados Unidos), Phelps también batió la plusmarca mundial de 400 m estilos y las marcas nacionales de 100 m mariposa y 200 m estilos.

En 2003, Phelps batió su propia marca mundial de 400 m estilos (4:09,09) y en Junio, la marca mundial de 200 m estilos (1:56,04). Continuó en Julio de 2004, mejorando de nuevo su marca mundial de 400 m estilos (4:08,41) durante los Trials para la Olimpiada de 2004.

El dominio de Phelps ha llevado a compararle con Mark Spitz, que ganó 7 medallas de oro en la Olimpiada de 1972, una marca mundial. Phelps ganó 6 medallas de oro y 2 de bronce en 2004 luego de competir en 8 pruebas: 100 m libres, 100 m y 200 m mariposa, 100 m y 200 m braza, 200 m y 400 m estilos, 4×100 m libres y 4×100 m estilos.