1940年春，中共中央、中央军委作出八路军应派部队与新四军合力发展华中的部署。八路军第2纵队主力和苏鲁豫支队、陇海南进支队先后越陇海路南下，与新四军第6支队合编为八路军第4、第5纵队。第4纵队执行向西防御任务。第5纵队执行向东发展任务。7月，新四军江南指挥部率主力北渡长江，改称苏北指挥部；10月在取得黄桥决战的胜利后，与南下支援的八路军第5纵队会师。11月17日，在江苏海安成立华中新四军八路军总指挥部(23日迁盐城)，叶挺任总指挥，陈毅任副总指挥并代理总指挥，中共中央中原局书记胡服(刘少奇)任政治委员，统一指挥陇海路以南、长江以北的新四军和八路军部队。留在苏南的新四军第2支队领导机关，组建了新的江南指挥部。
1941年1月7日，国民党当局发动皖南事变，围攻奉命北移的新四军军部。叶挺下山谈判被扣。项英、周子昆被叛徒杀害。袁国平在突围时牺牲。1月17日，国民党当局宣布取消新四军番号。1月20日，中共中央军委发布命令，重建新四军军部，任命陈毅为代理军长，刘少奇为政治委员，张云逸为副军长，赖传珠为参谋长，邓子恢为政治部主任。陇海路以南的新四军和八路军部队，分别改编为新四军第1至第7师和独立旅。全军共9万余人。
新四军总结皖南事变的教训，加强了党的绝对领导，加强了部队的正规化建设和抗日根据地建设，并根据斗争需要，实行主力地方化，先后成立苏中、淮南、苏北、淮北、皖江等军区以及许多军分区，发展了地方武装和民兵。1941年至1943年，新四军进行了艰苦的反“扫荡”、反“清乡”、反“蚕食”、反磨擦斗争，渡过了抗日战争中最困难的时期。1944年，新四军展开局部反攻，先后歼灭日伪军5万余人。根据中共中央军委关于向浙江、河南发展迎接战略反攻的部署，第1师主力渡江南下，与苏南部队和浙东游击纵队会师，成立苏浙军区。第4师主力西征豫东，恢复了豫皖苏抗日根据地。第5师派出河南挺进兵团北上，开辟了豫南，豫中抗日根据地。第5师还与南下的八路军第359旅会师，成立了鄂豫皖湘赣军区。
1945年8月15日，日本宣布无条件投降。侵华日军和伪军听从蒋介石的命令，拒绝向八路军、新四军投降。新四军向拒不投降的日伪军展开全面反攻。到9月2日，共解放县城40座，重要集镇400余个，歼日伪军
