1944年8月，侵華日軍發動浙東作戰。9月占領溫州，10月占領福州，閩浙兩省沿海地區迅速淪為敵后。中共中央得悉美國有在中國東南沿海實施登陸作戰的意圖，并希望在登陸作戰時能得到中共的配合。在此背景下，9月27日，中共中央發出開展蘇浙皖地區工作的指示。指示要求華中局抽調一批原蘇南、浙江干部和蘇中兩個主力團渡江，匯合第十六旅，共同擔負南進任務。新四軍第一師師長兼蘇中軍區司令員粟裕，主動請纓，提出親率第一師主力南進任務，得到批準。
1945年1月6日，兩路南下部隊全部到達浙江省長興縣仰峰岕，與在此堅持抗日斗爭的第十六旅會合。1945年1月13日，蘇浙軍區成立，司令員粟裕，政委譚震林，參謀長劉先勝，統一指揮蘇南和浙東部隊。1月25日，中共中央華中局又決定組成江南區黨委，由粟裕暫兼任書記，江渭清為第一副書記，吳仲超為第二副書記。粟裕以華中局代表身份指導浙東區黨委。蘇浙軍區轄3個縱隊，2個軍分區。