原名苏七生。1912年6月2日生于湖南省平江县三墩戴家铺一个贫苦农民家庭。6岁起就开始放牛割草、上山打柴，年龄稍长即从事农业劳动。1926年参加儿童团。1927年参加少年先锋队。1928年参加平江农民扑城暴动。1929年参加游击队，8月加入中国共产主义青年团。1930年6月参加中国工农红军第3军团，改名苏振华。曾被选为连队士兵委员会委员长，参加过长沙战役。同年11月转入中国共产党。1931年起在红5军任排长、连政治委员、团党总支书记、师经理处政治委员、红5师第13团政治委员。曾参加中央苏区历次反“围剿”，因在作战中英勇顽强，负伤不下火线，被授予三等红星勋章。长征初期，率部参加攻克土城、娄山关、遵义城等战斗。后任红4师第12团政治处主任、政治委员。到陕北后，参加直罗镇、东征战役。1936年6月入抗日红军大学学习。因学习刻苦、成绩优良，被毛泽东称为“工农分子知识化的典型”。1937年1月红大改为抗日军政大学后，任第2、第1大队大队长。
抗日战争初期，继续在抗大学习和工作。1939年7月随罗瑞卿率领部分学员到华北敌后抗日根据地办学。1940年5月起任八路军第115师343旅（后为教导第3旅）兼鲁西军区政治委员，曾与杨勇一起组织指挥潘溪渡战斗。1941年5月任八路军第2纵队兼冀鲁豫军区政治委员，参与组织领导冀鲁豫边区军民开展敌后平原游击战争，多次挫败日伪军“扫荡”和反击国民党顽固派军队的进犯，巩固和扩大了抗日根据地。其间曾深入斗争实际，先后总结出曹楼、倪庄、刘岗3个村以百余人的武装，同日军的“四笼政策”坚持斗争，以及冀鲁豫军区小部队分散活动的成功经验。1944年5月冀鲁豫军区与冀南军区合并后，任新的冀鲁豫军区副政治委员兼中共中央平原分局党校校长。抗日战争胜利后，任晋冀鲁豫野战军第1纵队政治委员，与杨得志率部参加邯郸战役。1946年12月兼任第1纵队司令员，率部长途行军千余里参加巨金鱼战役。西台集战斗中，坚持在前线实施不间断的指挥，歼灭国民党军整编第68师主力4000余人，受到野战军通令嘉奖。1947年5月与司令员杨勇率部参加鲁西南战役，在突破国民党军防线后，一举攻克郓城，创造了晋冀鲁豫野战军1个纵队单独攻坚、围歼国民党军1个师部又2个旅的先例。后率部参加进军大别山，参与指挥高山铺战役，所部因战绩突出，被野战军记大功1次。1948年率部参加宛东、豫东、郑州战役。淮海战役中，率部参加阻击和围歼黄维兵团。1949年2月任第二野战军第5兵团政治委员，参加渡江战役后，率部直出浙赣线，解放衢州、景德镇、上饶等20余座城镇。同年11月进军西南，解放贵阳，任贵州军区政治委员、司令员兼政治委员，中共贵州省委书记兼省财政经济委员会主任。领导贵州军民剿灭国民党残余武装和土匪，开展土地改革运动，恢复和发展工农业生产。
1954年4月调任中国人民解放军海军副政治委员兼政治部主任。1957年2月任海军政治委员。大力加强海军各级中共组织的建设，强调思想政治工作要渗透到作战、训练等各项实际工作中去。领导总结出舰艇出海三阶段政治工作和海军航空兵飞行四阶段政治工作等经验。参与领导组建海军科研机构，引进先进设备和技术，对加速海军现代化建设起了重要作用，为人民海军的发展壮大作出重要贡献。1959年9月任中共中央军委委员、副秘书长。“文化大革命”中受到迫害，被解除一切职务。恢复工作后，于1973年1月任海军第一政治委员。1974年2月参与指挥西沙群岛自卫反击战。1975年1月任中央军委常委。1976年10月江青反革命集团被粉碎后，任中共上海市委第一书记、上海市革命委员会主任。团结带领广大军民迅速稳定了上海的局势，使工业生产产值逐月上升。
是第一至第三届国防委员会委员，中共第八届中央候补委员，第十届中央委员、中央政治局候补委员，第十一届中央委员、中央政治局委员。
1955年被授予上将军衔，获二级八一勋章、一级独立自由勋章和一级解放勋章。
1979年2月7日在北京病逝。