菲尔普斯出生于美国马里兰州东北海岸一个蓝领聚居的小镇，在那里，人们崇尚橄榄球而不是游泳。菲尔普斯是家里的第三个、也是最小的一个孩子，小时候常和两个姐姐希拉里、惠特妮在北巴尔的摩水上俱乐部度过。迈克尔·菲尔普斯的童年生活并不美满，父母很早就离婚了，父亲弗雷德是马里兰州一位退休警官，也曾是一名运动员,母亲黛比则是一位学校老师，同时兼任巴尔的摩郡教育系统的行政官员。菲尔普斯自小就在游泳池边长大，两个姐姐希拉里、惠特尼都是优秀的游泳运动员

面对今日被鲜花和闪光灯团团围绕的菲尔普斯，也许只有他的家人知道他成长过程中的艰辛。在学校，菲尔普斯因为大耳朵以及口吃，被同学反复嘲笑。他的母亲曾回忆道：“我儿子的成长并非一路坦途……刚开始是他的大耳朵，然后是他的长手臂，在哪里菲尔普斯都不可避免的被关注。”有一次，菲尔普斯在世人面前谈起他当时被深深的伤害了，别人的嘲笑成了他的噩梦。除了独特的生理结构被人嘲弄外，另一个更大的打击也来了：“在幼儿园开始，他的老师就经常对我说，迈克尔不能安静地坐着，迈克尔不能安静，迈克尔根本不能集中精力。”有22年教师经历的黛比苦涩地回忆说：“当时我说，也许他感到了厌倦。”但黛比得到的却是冷冰冰的回应：“你的儿子不可能做好任何事情。”不久，菲尔普斯被诊断出患了ADHD——注意力缺陷多动症，他应该终生接受药物治疗，但是两年后，他就不再服药了。在Speedo泳衣的发布现场，他妈妈回忆说：“有一天，离开泳池后，菲尔普斯告诉我，‘妈妈，我再也不想吃药了，我的伙伴们都没有吃，我能自己解决’。”

菲尔普斯的身体特点是人类中最接近鱼的一位。如果单从体型上看，没有人认为菲尔普斯是一个标准帅哥。他身高187cm，但是上下身的比例严重失调。上身的长度大约和207cm高的人长度相当，而双腿却只和175cm高的人长度相当。常人的身高和臂展相差不大，而他的臂展却达到了201cm，超出身高14cm，像三国时的蜀主刘备那样双手过膝。这注定了他站在陆地上时，看起来体型有点怪异。事实上，菲尔普斯的确在陆地上很不适应，不时莫名其妙地跌倒，去年10月就曾摔了一跤，导致右腕骨折。