跨入1944年，世界反法西斯戰爭已轉入了決定性的反攻，日本軍國主義為扭轉被動局面，從陸地保障其與南洋的聯系，決定孤注一擲，實施打通中國大陸交通作戰。由于兵力不足，不得不從華中占領區的14個作戰師團中抽走8個師團，使華中地區僅剩6個師團和一部分新組成的部隊共約17萬人，作戰能力大大下降，占領區難以鞏固。為此不得不收縮防線，擴充偽軍。同時日偽軍官兵士氣低落，互不信任，矛盾四起。而經歷了艱苦的反“掃蕩”、反“清鄉”和打退國民黨反共高潮的共產黨及其領導的新四軍和華中各抗日根據地的黨政組織更加堅強，人民群眾斗志更加堅定，被日頑占去的根據地，經過斗爭，不少地區失而復得，根據地的生產建設、黨政、民眾團體工作都有所發展。華中局和新四軍軍部審時度勢，遵照中共中央繼續團結國民黨共同抗日，集中力量打擊日偽軍，鞏固和擴大抗日根據地的方針，決定采取適當集中兵力作戰與分散的游擊戰爭相結合，軍事攻勢與政治攻勢相結合，在敵后開展局部的有條件的攻勢作戰。在繼續粉碎對日偽“掃蕩”、“清鄉”的基礎上，準備向日偽據點發起攻擊，收復被占根據地，擴大解放區。
1944年2月，中共蘇中區委召開第五屆擴大會議，粟裕提議攻取車橋，作為蘇中地區對日反攻作戰的突破口。車橋位于江蘇淮安縣東南部，是新四軍第一、第二、第三、第四師的結合部，也是蘇中、蘇北、淮南、淮北抗日根據地的聯結點。1944年3月5日，車橋戰役正式開始，葉飛直接指揮，以善于攻堅作戰的第七團在炮兵大隊配合下進攻車橋，以善于野戰攻擊的第一團及配屬的兩個地方營設伏于蘆家灘打援，以第五十二團及第四分區特務團，軍區教導團，江都獨立團等總計8個營為預備隊。6日，車橋戰役勝利結束。戰后，參戰主力部隊迅速轉移，集結休整，隨時準備粉碎日軍的報復“掃蕩”，是時派出多路小股部隊襲擾日偽。至13日，日偽軍先后從曹甸、涇口、塔兒頭等據點撤走，使淮安、寶應以東縱橫50公里的地區獲得解放，進一步溝通了蘇中、蘇北、淮南、淮北抗日根據地之間的戰略聯系。車橋戰役是新四軍抗戰以來，殲日軍較多俘日軍最多的一次較大規模的戰斗。車橋戰役后，日軍沒敢進行大規模的報復“掃蕩”，也未能對蘇中第一、第三分區進行“擴張清鄉”和“強化屯墾”，使蘇中地區成為比較穩定的后方基地，為黨政軍機關干部整風，部隊整訓，準備反攻和后來向東南進軍，創造了良好的條件。車橋戰役還從戰役形式和作戰手段上顯示了新四軍對日軍作戰能力的提高，標志著新四軍進入了對日軍的反攻作戰階段。車橋捷報傳到延安，延安總部給予了充分肯定，劉少奇、陳毅發來賀電，表揚第一師英勇果敢的作戰精神和在華中首創生俘日軍之新記錄。
在車橋戰役勝利的鼓舞下，蘇中軍民再接再厲，向日偽軍發起了1944年夏秋季攻勢。5月中旬，新四軍蘇中軍區第四分區特務團首先突破日偽軍的“清鄉”封鎖線，先后兩次攻克童家甸據點。6月23日，新四軍3旅7團在參加車橋戰役后返回原防，當行軍至如皋縣耙齒凌附近時，與從栟茶據點出動“掃蕩”的日偽軍500余人遭遇。7團果斷將日偽軍三面包圍，在當地游擊隊、民兵和群眾配合下，擊斃日偽軍200余人，生俘日軍12名、偽軍200余名，成為繼車橋戰役以后的又一重大勝利。6月26日，蘇中軍區部隊攻克日偽南坎據點，全殲日偽軍及“清鄉”警察300余人。