郭村保卫战胜利以后，面临的问题就是如何解决苏北问题了。
1940年5月4日，中央军委毛（泽东）王（稼祥）电令：“望令叶飞部开返苏北，在苏北地区放手发展，在今年内至少扩大至两万人枪。严令叶飞订出分期实现计划，立即动手在高邮、泰县、泰兴、靖江等县建立抗日民主政权，放手发动群众，发展党的组织。韩德勤部如妨碍我发展，须坚决消灭之。”
7月8日，粟裕率江南指挥部渡江北上，到达吴家桥地区。遵照中共中央指示，将江南指挥部改为苏北指挥部，陈毅、粟裕分别任正、副指挥。部队整编为三个纵队，叶飞任第一纵队司令员兼政委。
江南主力北上以后，苏北斗争进入了新的阶段。蒋介石、韩德勤绝不允许我军在苏北敌后建立和发展抗日根据地，在敌我之间将有一次决战，必须做好充分准备。
7月14日，陈毅致电新四军军部转报中央和重庆周恩来同志，决定向东挺进，以黄桥为中心，在泰兴、如皋、南通建立根据地。于是，苏北新四军唱起了“东进，东进，我们是铁的新四军“这一响亮的歌声。
陈毅说，这次东进，是破釜沉舟，背水一战，必须争取胜利。如若失败了，就只好下长江喝水；只有胜利了，整个苏北的局面才能打开。大家要下最大的决心，必须打败敌人。当时，形势确实十分险恶，整编后的苏北指挥部7000多人面对敌伪和10万顽军，而且宜陵、塘头又交给了两李，根本不能西返，只能背水一战。