咸丰十一年（1861年）底，湘军水师杨载福部就连破太平军据守九年的长江门户池州、无为州、运漕镇，打开了进攻天京的门户；庐州破后，同治元年（1862年）春，曾国荃水陆并进，江北主力连破巢县、含山、和州，突破天京上游最后一道江上门户西梁山，前后只花了12天时间。于此同时，江南曾贞干部和鲍超部也连克要塞，将芜湖、宁国两座府城变成孤城。接下来，湘军隔江呼应，连克金柱关、东梁山，迫使太平军黄文金部放弃芜湖退往广德、湖州，如此一来天京上游门户打开。紧接着曾国荃持续进兵，连克秣陵关、大胜关、三汊河，而水师彭玉麟部则从金柱关进破头关、江心洲、蒲包洲，进泊秦淮河入江口，而曾国荃则绕到城西南偷袭攻破洪春元驻守的雨花台，进逼天京南门。
曾国荃逼近天京虽然违背了曾国藩“稳扎稳打”的初衷，但并不是一味冒险，他一开始大张旗鼓从江北进军，吸引了大量天京方向援军于两浦（江浦、浦口）方向，而在江南则不紧不慢，并不急于进攻芜湖和宁国。待北路稳固、南路太平军羽翼剪除且注意力转移后不仅南路曾贞干部突然加大攻击力度，而且自己也率主力渡江南下，迅速肃清了皖南，且并未拘泥于曾国藩“得一处即守一处”的嘱咐，对皖南郡县置之不顾，连续采用绕行超越的打法进行奇袭（先攻金柱关再打芜湖，先攻三汊河再打大胜关，不攻城南西侧一堆太平军据点却绕攻雨花台）。
曾国荃之所以能如此，是因为水师得利。太平军自西征后水师日渐衰弱，此时已无力争夺江路，因此湘军南北两路可以夹水呼应，太平军却只能各自为战；湘军在芜湖-天京一线屡屡超越侧击、背击，靠的是彭玉麟、杨载福两支水师的助力，而曾国荃敢于孤军深入雨花台，靠的是蜿蜒于天京城东南、沟通长江的秦淮河，河口是湘军水师攻占的，雨花台始终不能被太平军合围（李秀成等大军回师也不能），则是曾贞干渡过秦淮河进驻江东门，牢牢控制秦淮河航道的功劳——而这说穿了还是“水师”二字。
正因为没有堪与一战的水师，看似占据有利局势的太平军才会步步被动，节节败退，不仅如此，失去水路之利令太平军补给困难，得水路之利令湘军孤军不孤，后勤通畅。更麻烦的是因为有水路优势，湘军可以灵活用兵，频繁调整部署，补强自身漏洞并抓住对方漏洞，而太平军一旦部署失误就再难补救。
此外，安庆-庐州丧失后，皖北太平军群龙无首，皖南则一向是洪氏“众建诸侯而少其力”的重灾区，本就地狭民贫，却挤了不相统属的许多王爵部队，打起大仗来乱作一团，结果主力并没有受到大的损失，却已被湘军牢牢掌握了会战的主动权。
打仗打的就是一股无惧生死，勇往直前的气势，当年太平军自广西初起时，数千可敌数万，如今数十万不能破数万，完全是因为将骄兵疲，惜命爱财，所以才会在雨花台大战中失利。自此，太平天国再无力解除湘军的围困，最终一步步走向城破国亡的穷途末路。