6月中旬，讨伐段祺瑞奉军的国民革命第4军军长兼第11军军长张发奎凯旋武汉，武汉国民政府因张发奎讨奉有功，任命他为第二方面军总指挥。
在北伐时，担任攻武昌城的叶挺独立团属于张发奎师。占领武汉后，陈铭枢师扩充为第11军，张发奎师扩充为第4军。宁汉分裂后，张军倾向武汉，陈军则倾向南京。张陈两军将领，皆出第4军，而第4军前身为广东新军第2师，师长为邓演达之兄邓铿。不久，第11军军长陈铭枢只身而去，把军队交给张发奎指挥。
张发奎的第4军和第11军合编为第四集团军第二方面军，并把贺龙的一个师扩充为第20军并入进去，同时还把中央军事政治学校武汉分校也扩充进去。张发奎与语罕的关系比较近，特聘他为第二方面军总指挥部秘书长。
6月下旬，武汉国民政府开始实施“东征讨蒋”计划。汪精卫和国民革命军第四集团军总司令唐生智想通过“东征讨蒋”，驾登国民党“老大”的宝座和获得国民革命军总司令的头衔，同时消灭共产党的军事力量。因此，决定把中共武装力量相对集中的第四集团军第二方面军作为“东征讨蒋”的中路前锋开往九江集结，再由九江、湖口向安庆进发。
武汉政府属下各军中，共产党在第二方面军中的势力最为雄厚，由共产党直接控制的有第4军25师两个团、第11军第24师（副军长叶挺兼师长），还有亲近共产党的第20军（军长贺龙）。
第二方面军总指挥张发奎对共产党的态度比较好，他有放弃“东征讨蒋”联共回粤的意向，中共中央也有利用“东征讨蒋”、“依张回粤徐图发展”的计划。7月11日，叶挺率第11军24师为“东征讨蒋”的前锋，向九江开拔。随后，黄琪翔的第4军、贺龙的第20军也陆续向九江地区集结。
共产党在第二方面军中组织严密，各军有军委，各师有师委，各团有团委，团委下面有各支部与小组，而党团干事会为最高指导。党团干事会书记本为廖乾吾，因他专任第4军军委书记，故由语罕接替他出任党团干事会书记。
7月15日，汪精卫在武汉公开“分共”，周恩来、吴玉章、谭平山等乘船到九江。张发奎的军队预备回广东，语罕也随同第4军军长黄琪翔在半秘密状态下离武汉赴九江。大部队多是以打野外的形式为掩护陆陆续续到达九江，多住在郊外。
周恩来和叶挺等常在湖里船上开会，经常开到深更半夜。彭漪兰回忆自己参加过大概三次，没有参加的就不知有多少次了。那时她还只有十几岁，革命热情是十分高涨的，但在开会时就不知道谈些什么了，只在船头船尾玩水。【注释1】
语罕在广州时就认识老乡彭漪兰。她那时不过十八九岁，是广东大学的学生，体格壮健，举止大方。在武汉时，两人来往更为亲密。
九江古称浔阳，位于长江中下游南岸，上扼蜀楚，下控三吴，地理位置十分重要，两千年来一直是兵家必争之地。语罕到了九江以后，住在第4军军部。军长黄琪翔将军不过三十来岁，作战也很勇敢，指挥敏捷。参谋长是叶剑英，政治部主任是廖乾吾。
第4军军部设在庐山脚下，离九江市区不远的甘棠湖心烟水亭中，相传为三国时东吴周瑜的水军都督府。
当时正值盛夏，湖水平铺，进出皆须坐木筏。烟水亭四面皆水，面对匡庐，风景绝佳。
语罕和叶剑英差不多每天傍晚都要划船作戏，有时诗兴大发在烟水亭壁上题诗，有时把船荡在湖的对岸芦苇深处，一泅入水，游个半天。
【注释1】彭漪兰：《南昌起义片段回忆》，载中共江西省委党史研究室编：《亲历南昌起义》，江西出版集团、江西人民出版社2007年版，第463页。