菲尔普斯生于一个破碎的家庭，他的父亲是个警察，母亲是个学校教师。菲尔普斯出生于美国马里兰州东北海岸一个蓝领聚居的小镇，在那里，人们更崇尚橄榄球而不是游泳。姐姐希拉里和怀特妮也都是游泳运动员，怀特妮曾经说：游泳池是姐弟两人逃离父母争吵的唯一办法。菲尔普斯7岁时，父母两人离婚。
菲尔普斯11岁的时候，他的教练鲍曼发现了他的游泳基因。
15岁时,菲尔普斯作为美国68年以来最年轻的奥运游泳选手参加了悉尼奥运会。在悉尼，他在200米蝶泳比赛中名列第五，第二年，只有15岁9个月的菲尔普斯打破这个项目的世界纪录，成为打破游泳世界纪录最年轻的运动员。4个月后，菲尔普斯再一次打破200米蝶泳的世界纪录，并第一次获得世锦赛冠军。
2001年，菲尔普斯打破200米蝶泳世界纪录，成为最年轻的世界纪录保持者，并赢得了“神童”的美誉。同年，他在福冈世锦赛上赢得了职业生涯中第一个世界冠军头衔。
2004雅典奥运会，菲尔普斯打破多项纪录。第一天，他以3.5秒的优势夺得400米个人混合泳金牌，并打破这个项目的世界纪录。第二天，他在4x100米自由泳接力比赛中获得一枚铜牌，随后他在200米自由泳比赛中再获一铜。随后，菲尔普斯同一天收获两金，先是200米蝶泳金牌，一个小时后，他参加4x200米自由泳接力，再获一枚金牌。另外，他还获得200米个人混合泳金牌，4x100米混合接力比赛中，菲尔普斯再获一金。至此，菲尔普斯独揽6金2铜，此外他还打破了5项世界纪录。
2008年北京奥运会，菲尔普斯以4分03秒84打破男子400米混合泳世界纪录，他也正式开启了奥运会8金之旅。男子4×100米自由泳接力，担任第一棒的菲尔普斯帮助美国队以3分12秒23改写世界纪录。男子200米自由泳，菲尔普斯以1分42秒96打破世界纪录并夺取金牌。此后，菲尔普斯以1分52秒03夺得200米蝶泳冠军拿到个人第四金、并打破世界纪录。一个小时后，他又带领美国队夺得男子4×200米自由泳接力金牌，并打破世界纪录。男子200米混合泳决赛，菲尔普斯以1分54秒23打破世界纪录并夺取个人本届奥运会第六金。男子100米蝶泳和男子4×100米混合泳接力，菲尔普斯全部轻松夺冠，至此，他超越施皮茨成为单届奥运会夺取金牌最多的运动员。
2012年伦敦，菲尔普斯四枚金牌，超越前苏联体操名宿拉蒂尼娜所保持的18枚奥运奖牌的纪录，成为奥运历史上获得奖牌及金牌最多的运动员。
2012年8月4日，菲尔普斯选择退役，但两年之后的2014年，菲尔普斯正式宣布复出。
2016年8月，菲尔普斯担任里约奥运会美国代表团旗手，这也是他第5次参加奥运会。男子4x100米自由泳接力决赛，美国队以3分09秒92的成绩拿到冠军，第5次参加奥运会的菲尔普斯，拿到了个人的第19枚奥运会金牌。
之后，他又在男子200米蝶泳、男子4x200米自由泳接力、男子200米混合泳、男子4x100米混合泳接力赛中问鼎冠军，他的奥运会金牌数达到了23枚。
2016年12月2日，美国“飞鱼”、奥林匹克多枚金牌得主迈克尔-菲尔普斯日前在纽约举行的金泳镜奖颁奖典礼上公开宣布，他已经彻底退役。
