1920年春，共产国际代表维经斯基来到北京，同李大钊和张申府就中国的问题进行交谈，特别希望中国建立党的组织。李大钊介绍他去上海见陈独秀。于是上海、北京两地分头进行建党工作。
8月，上海党组织建立了全国最早的社会主义青年团组织。语罕在陈独秀指导下“与李汉俊、杨贤江、李达、陈望道、沈雁冰等搞共产主义发起小组”【注释1】。
上海中国社会主义青年团组织成立后，创办了外国语学社，语罕推荐五中学生蒋光慈、吴葆萼和安庆法专学生韦漱园入学。
8月14日，语罕从北京回到芜湖后写信给胡适：“前次奉托之事，请你回京时替我留心，因为我自己觉得即在中等学校当教职员，也很勉强，我再求几年学问，不能在社会服务。”【注释2】
9月底，刘清扬到北京，李大钊和张申府介绍她入党，刘清扬不同意。随后，李大钊找到了张国焘，张国焘成为北京第三个党员。
10月，李大钊、张申府、张国焘3人成立北京共产主义小组。经李大钊介绍，语罕加入了北京共产党组织和北京大学马克思学说研究会。【注释3】
“北京第一个发展了张国焘，以后又发展了高语罕。”“后来北京又发展了高语罕、刘仁静、邓中夏、罗章龙等，他们都是北大的学生。”【注释4】
北京大学马克思学说研究会发起人及部分会员名单里有：“高语罕，安徽，芜湖中学教员”【注释5】。
1921年春，在陈独秀和语罕的推动和筹划下，蔡晓舟开始在安庆建立安庆社会主义青年团筹备会，安庆的团组织取名“安徽社会主义青年团”。中国社会主义青年团在第一次全国代表大会前，共成立了17处地方团组织，安庆是其中之一。4月，韦漱园特地从上海赶回安庆参加成立大会。
在此之前，安庆团员骨干宋伟年已和唐道海及芜湖省立五中学生马章禄、夏揆予经语罕推荐，以皖省代表名义赴莫斯科出席共产国际召开的远东各国共产党及民族革命团体第一次代表大会。
此时，语罕已加入中国共产党，【注释6】往返于上海、安庆与芜湖之间，与安徽社会主义青年团联系十分密切，指导也较为有力，深得安徽团组织的信赖。
1922年中国社会主义青年团第一次全国代表大会召开之前，安徽团组织因种种原因未能派人出席，团组织负责人王逸龙特地在3月26日给团临时中央负责人施存统写了报告，说明安徽不能派专人参加中国社会主义青年团第一次代表大会的情况，同时提出由当时住在上海的语罕作为安徽代表出席大会，并赋予语罕代表安徽团组织建议表决的全权。【注释7】
中国社会主义青年团第一次代表大会原定在上海召开，后来因广东革命环境比较好，遂改在1922年5月于广州召开，语罕因故未参加第一次代表大会。
8月，语罕离开上海去德国。“中央直辖的上海的党组织，党员人数很少，常留上海的，当时只有沈雁冰、沈泽民、邵力子、李启汉、李中、高语罕（在平民女校教书，不久也离开上海）等人。”【注释8】
1925年春，斯大林遵照列宁的遗嘱，在莫斯科创设孙逸仙大学，培养中国有志青年学习革命理论。中共中央决定，安徽省选派10名，安庆、芜湖各5名（均为三男二女）。
陈独秀委托语罕代理执行。语罕的学生汪菊农、廖麟等均在其中，由芜湖起程，先到达上海，在亚东图书馆稍事休息，即往语罕在上海大学的住处报到。
一切出国手续，均蒙语罕代为办理，指定到某街照相3张，指定到某医生处检查身体，取得证明。几天后，汪菊农他们随赴苏留学的大队人马，偷偷上了苏联轮船，经过海浪颠簸，到达海参崴。
1922年3月26日，安庆团组织负责人王逸龙给当时团中央负责人施存统的信中说，四月上海大会，这里因人材、时间分配不开，实难专人前去。高语罕先生为吾乡健者，住在上海，想与诸君亦常有接洽，兹拟请其如期代表出席，建议表决，皆付以全权，除另函通知外，特先报告。
【注释1】李宗邺：《回忆高语罕》，载中共寿县党史办公室：《寿县革命回忆录》，第26页。
【注释2】高语罕：《高语罕信九通》，载耿云志主编：《胡适遗稿及秘藏书信》31，第352页。
【注释3】罗章龙：《椿园载记》，生活·读书·新知三联书店1984年版，第67页。
【注释4】张申府：《所忆》，中国文史出版社1993年版，第19、20页。高语罕不是北大学生，此处“高语罕”也不是“高一涵”之误，因高一涵在1926年由李大钊和高语罕在武汉介绍加入中国共产党。
【注释5】罗章龙：《椿园载记》，第67页。
【注释6】据曾长秋考证，上海党组织于1921年2月发展了沈雁冰、邵力子，5月发展了沈泽民、李启汉，稍后发展了李中和高语罕。曾长秋：《对中国共产党成立及各地早期组织的考证》。
【注释7】《安徽早期党团组织史料》（内部版），1987年5月，第1页。
【注释8】李达给上海革命历史纪念馆筹备处的信，1954年2月23日，转引自任武雄：《李中并非高语罕》，载《党史研究资料》1982年第11期。