4月2日，太平军大败清军吉尔杭阿、张国梁部，镇江之围自解。
出乎所有人意料的是，太平军既未凯旋，也未追击残敌，而是于4月2日当夜连夜渡江，到达江北。杨秀清运筹帷幄，早已准备好渡江的船只、粮草，只留周胜坤部数千人在镇江城外坚守。
3日，太平军主力破江北重镇土桥，5日，破扬州。清军江北大营已经营三年，旦日之间便被太平军摧毁。
紧接着，秦日纲率军西进，攻占天京对岸的浦口、江浦等重镇，在此停军休整。
清军江南大营则在镇江外围死磕太平军周胜坤部。最终周胜坤寡不敌众，周胜坤本人战死，余部撤入镇江城内。
江北大营大败，浦口、江浦等重镇落入太平军之手。咸丰帝闻讯大怒，催逼江南大营统帅向荣派骁将张国梁渡江，前往收复浦口、江浦。张国梁不负众望，很快便收复了浦口、江浦。
然而，清军此举正中杨秀清下怀。这样一来，实力雄厚的江南大营兵力将进一步分散，与清军吉尔杭阿部的紧密变得若即若离。
4月底，本在浦口、江浦一带的太平军秦日纲部开始东进，在扬州一带兜兜转转一个月，似乎无所事事。直至5月27日，秦日纲才率军自瓜洲渡江，返回镇江城外。
这一方面是为了进一步调动、分散江南大营兵力，另一方面是为了掩护石达开的东进。
自4月起，本在湖北督战的石达开率军东进，加入天京战场。5月底，石达开的大军进入天京外围，猛攻天京城南重要关隘—秣陵关。
秣陵关是江南大营重要据点，与其孝陵卫大营相距不远。向荣无奈，只得再次把最精锐的张国梁部调至秣陵关。
此时的江南大营，战线拉长，兵力分散，虚弱已极。清军吉尔杭阿部孤立在镇江城外，失去了江南大营的支援。
6月1日，太平军秦日纲、吴如孝两部大军猛攻困守高资烟墩山的吉尔杭阿。清军孤立无援，被太平军团团包围，八旗副都统绷阔、江宁知府刘存厚先后战死，吉尔杭阿使用手枪自杀。
秦日纲几乎全歼吉尔杭阿的大军，于6月13日回到天京近郊。此时，秦日纲的太平军已经接连征战四五个月，士卒疲惫不堪。
秦日纲并不知道江南大营虚弱已极，欲率军进城休整。杨秀清则不准秦日纲入城，要求他打破向荣设在孝陵卫的大营后才准入城。
陈玉成、李秀成二人入城晋见杨秀清，辩解说“向营久扎营坚，不能速战进攻。”
杨秀清则厉声说：“不奉令者斩！”
陈玉成、李秀成等“不敢再求，即而行战”。
6月20日晨，秦日纲、石达开、韦昌辉兵分四路，向江南大营发起总攻：
第一路，仙鹤门方向的太平军多路齐出，将敌营团团围困。
第二路，太平军二三千人翻过紫金山，从后路直插清营。