随着局势的发展，形势对于蒋介石来说是相对有利的。对于美、英、日苏等国的争相拉拢，让蒋介石终于得以在日本军队的步步进逼之下看到了战争胜利的希望，也终于有了“闲暇”的时间来“冷静”地思考一下目前正不断壮大中的共产党势力对自己所产生的威胁。1940年前后，斯大林认为中国共产党的力量太弱不足以依靠，认为还得和国民党势力搞好关系，才能保障苏联的战略利益，决定向国民党提供包括150架战斗机、100架轰炸机、300门大炮和500辆汽车的军事援助，要求蒋介石排除对日议和的可能。10月16日，蒋介石接到斯大林援助的电报，摸清了苏联的底细，10月19日发电限令八路军、新四军在一个月内全部开赴黄河以北。与此同时，蒋介石密令汤恩伯、李品仙等部30万大军及顾祝同所部，准备向华中新四军大举进攻。又将包围陕甘宁边区的军队增至20万之众。中共为了顾全团结抗日大局，同意将皖南新四军部队移到长江以北。12月7日，蒋介石批准下达《黄河以南剿灭共军作战计划》，并密令各部执行。计划第一步，以顾祝同部兵力于1941年1月底以前“肃清”江南新四军，然后转用兵力“肃清”苏北新四军。第二步，以李宗仁所部于2月28日前“肃清”黄河以南八路军。按照蒋介石的密令，顾祝同在皖南集结了7个师约8万人的兵力，准备“围歼”新四军。并通过广播电台向日伪通报“新四军要渡江北上”，使日伪军封锁长江，焚毁渡船，每日派军舰在江上游弋。12月8日，国民政府参谋总长何应钦、副参谋总长白崇禧电令第十八集团军总司令朱德、副总司令彭德怀，新四军军长叶挺，副军长项英令八路军、新四军限期北移。12月9日，蒋介石发出手令，命八路军、新四军限期北移：“前令第十八集团军及新四军各部，限期开到黄河以北作战，兹再分别地区宽展时期。凡在长江以南之新四军全部，限本年12月31日开到长江以北地区，明年1月30日以前，开到黄河以北地区作战。现在黄河以南之第十八集团军所有部队，限本年12月31日止，开到黄河以北地区，希遵照何白正副参谋总长十月皓电所示之作战地境内，共同作战，恪尽职守，毋得再误。此令。蒋中正。”
1940年12月10日，蒋介石向顾祝同发出了特急电报：
（一）查苏北匪伪不断进攻韩部，为使该军江南部队不致直接参加对韩部之攻击，应不准其由镇江北渡，只准其原地北渡，或由该长官另行规定路线亦可。
（二）该战区对江南匪部，应按照前定计划，妥为部署并准备。如发现江北匪伪竟敢进攻兴化，或至期限（本年12月31日止）该军仍不遵令北渡，应立即将其解决，勿再宽容！
顾祝同接到蒋介石的特急电报后，立即召开高级军事会议，拟定“进剿”计划。他限期赶修重庆至上饶长途载波电话，积极调兵遣将，并决定由上官云相担任前线总指挥。
同时，白崇禧指挥李品仙在江北沿江布防，焚烧渡船，控制渡口，积极策应顾祝同部。
12月的皖南，寒风呼啸，一派肃杀。皖南上空，阴霾密布，雷声滚滚，腥风在前，血雨在即……
皖南的新四军，终于作出了向南撤退的决定。1941年1月4日，清晨，下雨了，蒙蒙细雨中，成千上万的人从罗里、云岭、新村、白果树等地涌向新四军驻地，皖南人民以他们特有的方式来为新四军送行。群众杀鸡宰猪，家家摆开大小宴席，为即将离去的新四军战士饯行。一位老汉流着泪水对阻拦他杀猪的战士们说道：“孩子们，你们走后，国民党军队就要来抢粮抢猪，不如把它杀了，表表我们的心意……”老汉哽咽了，泪水与雨水一同顺着布满皱纹的脸颊向下流淌。
战士们再也抑制不住，风雨中，任凭泪水挥洒。战士拥着群众，群众拥着战士，千叮咛万嘱托，说不完的道别话，流不尽的离别泪，叙不完的军民情。
皖南风雨骤，山川同一哭……
下午6时许，皖南新四军部队告别了云岭的父老乡亲，低吟着“别了，三年的皖南”，散发着《告皖南同胞书》，在风雨中踏上了征程。
军部将9000人马编成3个纵队，分三路进发：第一纵队为左路，辖原新一支队老一团和新一团，约3000人。傅秋涛任司令员兼政治委员，赵凌波任副司令员，王槐生任参谋长，赵希仲任副参谋长，江渭清任政治部主任，由土塘到大康王集中，通过求岭向榔桥行动。
第二纵队为中路，辖原新二支队老三团和新三团，约2000人。周桂生任司令员，黄火星任政治委员，冯达正任副司令员，谢忠良任参谋长，钟德胜任政治部主任。由贡里到凤村集中，经高坦向星潭行动。
第三纵队为右路，辖原第三支队之第五团和军部特务团，约2000人。张正坤任司令员，胡荣任政治委员，黄序周任参谋长，吴溪如任政治部主任。纵路部率第五团达章村、溪口和茂林附近地区集中，其特务团到铜山地区集中，准备控制樵山岭、大麻岭，佯攻太平，掩护大部队前进。
军直属队及教导总队约1000余人跟随第二纵队行进。跟随军部机关一起行动的，还有中共中央东南局副书记饶漱石。
雨越下越大，风越刮越猛，天地浑然一体，漆黑一片。部队在泥泞的道路上前进。抵达章家渡时，一向平静的青弋江却奔腾咆哮、浊浪滔滔，猛涨的江水使预先架设的浮桥变短了。万不得已，先头部队奋力加长了浮桥。然而，不同建制的部队拥挤在桥头，叫喊声、器械碰撞声伴着风声雨声乱成一片。刚刚通过千把人，浮桥便断了。战士们徒步过河，在寒风中战栗，在冰水中发抖。
经过一夜艰难跋涉，战士们又冷又饿，极度疲劳，40公里竟走了8个小时。天明后，新四军军部抵达茂林以南的潘村，第一纵队抵达大康王，第二纵队的老三团和新三团到达凤村，第三纵队的特务团到达铜山，第五团到达章村、溪口和茂林附近。
项英望着疲惫的部队，脸上布满阴云，军部北移第一天就碰上如此恶劣的天气，出师不利。
于是他决定在茂林附近地区休整一天。
茂林是个大集镇，这里的人民对新四军有着极其深厚的感情。当年红军北上抗日先遣队七军团军团长寻淮洲的遗骨就安葬在这里。1938年5月，陈毅率领一支队去苏南路过此地，为寻淮洲修墓立碑。今天，当新四军拖着疲惫的步履来到茂林清晨时，镇子被唤醒了，顿时热闹起来。人民为新四军的到来而忙碌着，街两旁的皖南小吃发出了诱人的香味：咸煮的花生、油炸糍粑、糖炒板栗、五香鸡蛋……应有尽有。
皖南新四军被茂林的热情融化了。军部决定晚上举行军民联欢会，一扫前一天的沮丧情绪，鼓舞士气，以便迎接以后的艰苦日夜。战士们走上街头，散发着《告皖南同胞书》，为乡亲们担水、挑柴。文化工作队的同志们将一张张宣传抗日的红绿标语贴满街头。
晚上，军民联欢会在茂林祠堂举行。新四军战地服务团演出了精彩的节目。会场内外掌声、口号声、欢呼声浑然一片。茂林圣公会会长陆绍泉老人致欢迎词。新四军政治部主任袁国平代表新四军致告别词：乡亲们，我们新四军以民族利益为重，忍辱负重，委曲求全离开皖南，进军敌后，在前进的道路上，纵有千难万险，我们也誓为中华民族和中国人民的解放而斗争。乡亲们别难过，我们一定会回来的。
热烈的气氛中渗透着几分悲壮。
与此同时，国民党7个整师、8万余人，遵照第三战区司令长官顾祝同和第三十二集团军总司令兼前线总指挥上官云相的命令，正日夜兼程向新四军皖南部队进逼。
皖南新四军在茂林地区休整了一天，消除了疲劳。然而却给国民党“进剿”部队赢得了紧缩包围圈的时间……
1941年1月6日开始，顾祝同所属上官云相等部8万多人包围伏击新四军军部及皖南部队9000余人，经七昼夜殊死的战斗只有2000余人突围。
蒋介石干了这桩血腥勾当之后，竟于1月17日，以国民党政府军事委员会名义发出命令，宣布新四军“叛变”，已将“其全部解散”，决定“撤销”新四军番号，将叶挺交军法审判，依法惩治。