1928年初，语罕同杨匏安、罗绮园及他们的家人先到香港，然后转海轮到上海，在杨匏安一个亲戚家里暂住。
语罕穿着广东装上了电车，到亚东图书馆去。到了山东路，他便跳下车，慢慢走到亚东图书馆，一进门，也不打招呼，便往楼上跑。
汪孟邹看见语罕，又惊又喜，看他穿革命的广东服装太显眼，马上请人到衣店买了一件深灰色哔叽长衫给他穿上。语罕也不敢久坐，拿了几个钱，又回到杨匏安亲戚家里。
上海滩租界上普通的弄堂房子，大都是一楼一底，楼上分前后两部分：前者曰前楼，后者曰后楼，统称统楼面。统楼后身是楼梯，楼梯之后，一个较小房间叫“亭子间”，语罕就住在匏安亲戚家的亭子间里。
语罕初回上海，差不多有三个月没有下楼，极少出门，也没有去找丽立。直到阴历年底，语罕才写了一封信给她，丽立接到信，即跑来找他。见面简直认不得了，丽立瘦得可怜！语罕生活上既靠着亚东图书馆接济，自然不得不写文章作为代价。天天要用脑筋，却又丝毫不能运动，差不多等于坐牢。丽立每天从医院下班就跑来看语罕，语罕需要什么东西，她就买了来。
杨匏安留在中共中央机关，参与机关报刊的编辑出版工作。罗绮园主编机关刊物《布尔塞维克》，后任中共中央宣传部副部长。杨匏安患有肺病，夫人的身体也很不好，生活异常艰苦。为了弥补家用，杨匏安在夜里加紧写作，还帮助家人推磨做米糍，让母亲和孩子在第二天早晨上街叫卖。
语罕被编入由蒋光慈任组长，阿英、李克农、严启文、李泽纯、宋季仁为成员的春野支部，间或指导太阳社的文艺工作。太阳社是中共中央领导下的第一个革命文学团体，由蒋光慈等人创办，语罕参加了成立大会。
阿英在一篇纪念瞿秋白的文章中回忆说：
“1928年，太阳社成立于上海，当时中央干部参加的，有秋白、杨匏庵（安——引者注）、罗绮园、高语罕、郑超麟。秋白在工作上，有许多的指示，但因为政治工作繁忙，却没有写什么东西。只匏庵（安——引者注）、绮园，用笔名发表了几篇小说。不久，杂志也遭了封禁。”【注释1】
春野支部党小组长蒋光慈，原名蒋如恒，在芜湖省立五中读书时，常面对长江吟岳飞的《满江红》抒发豪情，遂将原名改名“蒋侠生”。后又愤而想当和尚，改名“蒋侠僧”。后去苏联又改名“蒋光赤”。大革命失败后，为避文字狱，改为“蒋光慈”。他还有许多别名，鲁迅有时称他为蒋光x，或蒋光y，或蒋光z。
1920年，蒋光慈由语罕介绍加入上海社会主义青年团，并到苏联莫斯科东方劳动者共产主义大学学习，两次见到列宁。列宁病逝时，他专门写下了《哭列宁》的诗和散文，并在《新青年》发表《列宁年谱》，是较早宣传列宁著作的人。蒋光慈回国后，曾与语罕共同在上海大学社会学系任教。
1926年，蒋光慈出版描述贫苦农民少年经过曲折的道路参加革命的《少年飘泊者》长篇小说，里面的蒋侠生就是蒋光慈，王持华就是王素华（学联秘书长）。他在1927年春完成的反映上海工人第三次武装起义的纪实小说《短裤党》，在中国现代文学史上有着重要的地位。
瞿秋白评价蒋光赤：“这个人太没有天才！”蒋光赤的革命小说出版，革命者中几乎没有人看。陈独秀翻一翻《少年飘泊者》，说道：“虽是热天，我的毛管也要竖起的。”【注释2】
1927年四一二政变后，蒋光慈在上海无法立足，遂逃到武汉，住在共产党办的长江书局里。他与全国总工会宣传部编辑科的阿英、孟超和杨邮人酝酿创办一份提倡无产阶级革命文学的进步刊物。
同年12月，蒋光慈回到上海，租下了坐落在北四川路虬江路北首一家倒闭了的西点铺。西点铺门面不大，仅有三四十平米，前门靠着日本租界。蒋光慈用一块白布写上美术字的店名，用图画钉按在门内玻璃窗外，春野书店就算开张了。
1925年，蒋光慈出版革命文学的新诗《新梦》。阿英评价《新梦》是“中国最先的一部革命的诗集”，“简直可以说是中国革命文学的开山祖”。【注释3】语罕对蒋光慈的作品非常称赞，蒋光慈的诗集《新梦》尚未发表时，语罕在德国为之作序：
“《新梦》作者光赤，是我数年前一个共学的朋友。那时，他是一个无政府主义者。后来，他留学苏俄共和国，受了赤光的洗礼，竟变成红旗下一个热勃勃的马克思主义的信徒。光赤本富于情感，在研究社会科学之余，高歌革命，我劝他结集出版，特作序。”
“苟活的中国人，眯着睡眼，得过且过。少年的中国人，绝不在黑暗之后忍耐，我们自己要前进！我们要鼓动革命！”
“现在流行的新诗人，脑子里是资产阶级的出产品，绝不替无产阶级打抱不平。我们绝不姑息，绝不苟且，绝不和帝国主义、资本主义妥协，中国现代青年的诗人里具有这种态度的，光赤同志要算‘首屈一指’。”【注释4】
春野书店除郁达夫外，其他都是中共地下党员，支部活动一般在春野书店里进行。当时正是左倾盲动主义统治时期，每个党员都要参加飞行集会、示威等活动。语罕在理论上是绝对反对的，他向春野支部反映，自己是曾经露过面的，白天无法出去，只能在晚上为党做工作。至于群众工作，确有不可能去参加的苦衷。可是行动上他必须按照支部的安排照着去做。
每到夜里，语罕跟着大家在大街小巷中写标语，发传单，往返奔波，颇以为苦。蒋光慈对左联成员参与飞行集会等冒险主义行为也十分不满，认为革命文学作品将青年们的情绪鼓动起来，引导他们向革命路上走，很有意义。但当时中共中央负责人认为文艺创作不算工作，到南京路上暴动才算工作。春野支部对语罕的观点不赞同，也发生过激烈的争论。
“语罕由黑格尔、马克思的哲学开始，次言到经济原理，末言及政治问题，在政治问题中，当然从国际的而至国内的，连续不断的说上了八个钟头——由晚上九时说至东方发白，给当时共产党的理论、策略以致个人都大加评论。”
“语罕最后说，孩子们，对我所说的一般问题有关联的书籍，大概是没有很好的读过，甚至没有读。如若不相信的话，下次辩论时，可以叫几部车子到我家里去搬得来。”【注释5】
在次晚以及连续的数日中，春野支部一共开了五六次辩论会，争论没有结果。
一天晚上，语罕正在家埋头作文。谭平山来访，称中国革命已葬送于第三国际之手，中国共产党已成强弩之末，国民党亦不能革命，须组织第三党。语罕不赞成，告诉他“共产党即有错误，亦只应纠正，而不可另创一党，故对于平山提议拒绝，平山没趣而去”【注释6】。
冬天的一个晚上，陈独秀来找语罕和杨匏安，递给语罕一张带来的油印品，也递给杨匏安一张，另外几张请杨匏安托人带给广州和香港的几位朋友。
语罕一看，原来是《国际对中国党的政策之我见》，这才知道陈独秀对第三国际的政治路线大加批评，反对斯大林关于中国国共两党合作形式的意见，反对军事投机、军事冒险、八一暴动，反对党中的官僚主义和机会主义，等等。
语罕和杨匏安当时都未置可否，因杨匏安当时在中共中央工作，自然不便轻于表示意见。语罕向来是做文化工作和公开活动的，未尝做过地下工作，头脑还未清醒过来，也未深切地考虑这一问题。【注释7】
1929年中东路事件发生，时李立三主持中共中央工作，提出“反帝国主义进攻苏联”，“武装拥护苏联”，“打倒国民党”等口号，陈独秀发表《告全党同志书》，反对中共中央的政治主张。11月15日，中共中央政治局召开会议开除陈独秀党籍，同时批准江苏省委开除彭述之、汪泽楷、马禹敷、蔡振德4人的决议。
12月，陈独秀和彭述之、高语罕等81人联名发表《我们的政治意见书》，主张：中国革命的失败，责任完全由第三国际承担；取消一切实际行动；取消红军苏维埃，取消游行、罢工、示威，主张召集国民会议。语罕被中共中央和江苏省委着令春野支部开除党籍。此时，春野支部负责人蒋光慈正在日本，尚未回国。
蒋光慈回国后提出退党，但依然抱病从事革命文学的创作。文坛因此出现了以蒋光慈的作品为代表的无产阶级诗歌，显示了诗的“大众化（非诗化）”的发展趋向。正如夏志清在《中国现代小说史》里所说：“他确实是最早一个卖文为生的共产党作家，同时也是那时期的一个最多产的作家。”【注释8】
【注释1】鹰隼：《关于瞿秋白的文学遗著》，载《文汇报》1938年6月9日。
【注释2】郑超麟：《郑超麟回忆录》下册，东方出版社2004年版，第343页。
【注释3】阿英：《阿英全集》第1卷，安徽教育出版社2003年版，第661页。
【注释4】蒋光慈：《新梦》，上海书店1925年版，序言。
【注释5】少离：《现代史料：高语罕转变记》，载上海《社会新闻》1933年3卷2号。
【注释6】荣祖：《现代史料：高语罕之荣枯得失》，载上海《社会新闻》1933年第2卷第22期。
【注释7】高语罕：《九死一生记》第113—114期，载成都《新民报》日刊1945年12月6—7日第4版“雄辩”专栏。
【注释8】夏志清：《中国现代小说史》，复旦大学出版社2005年版，第216页。