国民党“二大”以后，广州市内谣言很多，其中就有关于共产党阴谋暴动的谣言。后来听说，第一军第二师师长王柏龄部队内也流传谣言，王柏龄不但不查禁，反而在对部队的连长以上各级军官训话时要他们“枕戈待旦”，消灭共产党的阴谋。王柏龄的训话流传开来后，陈延年对毛泽东说，事出有因，查无实据，只能提高警惕，静观其变。毛泽东和茅盾谈起这事，警惕地说：“莫非再来个廖仲恺事件？”
1926年3月17日上午，从黄埔军校传来了谣言：共产党策动海军局的中山舰密谋发动武装政变。原来，蒋介石指使亲信，打着黄埔军校驻省办事处名义，传令海军局代理局长、中山舰舰长共产党员李之龙，将军舰开到黄埔候用。事后，毛泽东问海军局局长李之龙怎么回事？李之龙回答说，这是校长（蒋介石）的命令。
李之龙（1897—1928）又名赤显，字在田，湖北沔阳人。1921年加入中国共产党，1924年入黄埔军校第一期学习，后任代理海军局长、中山舰舰长。大革命失败后，发动海军起义，1928年2月在广州被捕遇害。
中山舰抵达黄埔后，蒋介石否认自己有这个命令，诬蔑中山舰擅自闯入黄埔，是共产党阴谋暴动，企图将自己劫往海参崴。他于3月20日凌晨三时，下令逮捕了李之龙，并调动武装，宣布广州戒严，断绝省内外交通，包围省港罢工委员会和苏联顾问团驻处，随后又强迫国民革命军第一军中以周恩来为首的全体共产党员退出该军，制造了三·二〇事件。
当时，执行任务的连长出示了营长的命令。事后追问营长时，他说奉蒋介石命令行事，但没有蒋介石手令。李之龙向蒋介石要手令，蒋介石也说他没有下达过任何命令。3月20日下午四时，该连把枪还给警卫，然后撤走。蒋介石同时下令释放了被扣押的其他共产党员。
这天早上，聂荣臻由黄埔乘船到广州，一上岸就被软禁在舰上，见软禁的全是共产党员，他知道出事了。下午，聂荣臻被释放。他后来回忆说：“这一天，我和其他一些共产党员，被突然扣留在中山舰上，恩来被软禁在造币厂。经过我们党的交涉，蒋介石自感羽毛未丰，慑于左派势力强大，不得不于当天释放了我们。我来到区党委，陆续会到了延年、恩来、黄锦辉等同志。大家在一起议论，都非常气愤，一致主张给蒋介石以反击。”
下午六时，正在广州执行苏俄观察团使命的A。C。布勃诺夫（伊万诺夫），派拉兹贡去与蒋介石谈判。布勃诺夫（1884-1938），1924起为联共（布）中央委员，1925年任中央书记，遭非法镇压，死后恢复名誉。
蒋介石一脸沮丧地样子，说，他要求国民党中央执行委员会给他处分……过了两小时，布勃诺夫和拉兹贡一起去见蒋，蒋说他最近收到许多匿名信，威胁要对他行刺。此外，他还收到海军政委李之龙的信，要他在三个月期限内把广东的所有工厂收归国有，否则就枪毙他（信无疑是伪造的）。蒋介石对俄国人遭软禁表示歉意，他把罪责推到团长的错误行动上，说他给第五团团长的手令中命令对东山严加“监视”。
在这次谈话中，蒋介石答应第二天去布勃诺夫驻地作更认真深入的交谈。但第二天上午，蒋介石托人带信说，他来不了。这表明，蒋介石不愿意和苏联人打交道。
第二天晚上，陈延年、毛泽东、张太雷在苏联军事顾问代表团的宿舍彻夜讨论对策。
毛泽东和茅盾知道出了事，是听宣传部图书馆的一位工友说的。李之龙新婚不久，被王柏龄部下的士兵从床上拉下，打了一顿，然后带走。毛泽东听说李之龙出事后，吩咐那个工友去找陈延年。过了很长时间，那个工友回来说：“街上已戒严，但夜市未收，士兵们在赶走夜市上的人，十分混乱，所以我没有受到盘问。”毛泽东焦急地问：“陈延年同志呢，见到没有？”工友说：“我在文德楼附近看见他带着他的秘书，据秘书说，是往苏联军事顾问代表团的宿舍。”于是，毛泽东也去了苏联军事顾问团的宿舍。
大家在苏联军事顾问团的宿舍讨论怎么办？毛泽东说，对蒋介石要强硬，蒋介石此番也是投机。我们示弱，他就得步进步；我们强硬，他就缩回去。这是逼蒋介石下台的好机会，我们可以发动工农群众，联合国民党左派逼蒋下台……我们可以动员所有在广州的国民党中央执、监委员秘密到叶挺独立团驻防的肇庆集中，开会通电讨蒋。我们还可以争取国民革命军第二、三、四、五、七军以及一军中广大的士兵和中下级军官。
当时，陈延年、周恩来领导的广东区委还掌握了孙中山大元帅府的铁甲车队。“铁甲车队”名义上在大元帅府属下，实际上是由共产党直接领导的革命武装。其所有人员的配备和调动，都是由中共广东区委决定。“铁甲车队”装备有铁甲列车及其他车辆，在广州到九龙、韶关段的火车铁路线上巡逻。所配备的长枪、驳壳枪、手提机关枪等枪械都是苏联援助的。
毛泽东的意见，得到了陈延年和张太雷等人的赞成。延年对毛泽东留下了极好的印象，对区委其他同志说：“毛润之同志气度恢弘，对中国的农民问题有精深的见解，特别对农民的斗争问题有很深的研究，这非常重要，农民问题是列宁主义极重要部分，是争取革命胜利极重要的条件。”
临时主持苏联顾问工作的季山嘉不同意反击蒋介石，说：“现在还不是逼蒋介石下台的时候，因为我们要蒋介石北伐……我主张可以同他妥协。”季山嘉认为，肇庆地方财力要支付一个独立团的费用，必然不够……蒋介石有一个师的兵力加上吴铁成的武装警察，对付独立团就绰绰有余。独立团只有手头弹药，无法补充，真要打仗，独立团不能坚持一个星期。季山嘉（古比雪夫Н，В，）（1893-1938），1925-1926年苏联驻华南军事顾问团团长。遭非法镇压，死后恢复名誉。
斯切藩切夫赞成季山嘉的话，说：“和蒋介石妥协，蒋会得到比现在更为伟大之权力与实力，我们就可以争取和利用他。”斯切潘诺夫，B。A。（1886-1936），1925-1926年任驻华军事顾问，后在工农红军中任职。
两种意见彻夜争论，相持不下。如果此时发动群众举行示威抗议行动，也要和中央取得一致意见，最后，大家决定派胡公冕去上海，向陈独秀等中央领导汇报。胡公冕（1988-1979），1921-1923年留学苏联，1925-1927年任国民革命军总司令部宣传大队队长、第十一军二十五师六十七团团长。
会后，茅盾问毛泽东：“究竟是怎么一回事？”毛泽东回答：“据陈延年说，蒋介石不仅逮捕了李之龙，还把第一军中的共产党员统统逮捕，关在一间屋子里，扬言第一军中不要共产党员。据苏联军事顾问代表团的代理团长季山嘉说：蒋介石还要赶走苏联军事顾问团。”
茅盾惊异地问：“那怎么办呢？”毛泽东说：“我对陈延年他们说，中央执、监委员到了肇庆以后，就开会通电讨蒋，指责他违犯党纪国法，必须严办，削其兵权，开除党籍。广西的军事首领李宗仁本来和蒋有矛盾，加上李济深，这两股力量很大，可能为我所用。摆好这阵势对付蒋，蒋便无能为力。”
“结果如何？”茅盾问。毛泽东叹口气说：“陈延年先是站在我一边，可是，以季山嘉为首的苏联军事代表团却反对。他们从纯粹的军事观点看问题，认为真要打仗，肇庆一地的财力要支付一个独立团的费用，必然不够……季山嘉这样一反对，陈延年也犹豫起来。我再三跟他们辩论，没有效果，最后决定请示党中央。”
抗日战争时期，周恩来谈起这件事，说：
至于三月二十日事变，则完全是蒋介石制造的。二月五日，蒋介石把王懋功赶走，向汪精卫做了第一次示威。他打电报要我回广州。我因为看到他与右派来往密切，并且察觉他的神色不对，报告了张太雷同志。当时的苏联顾问不重视这事，把一个大问题当做小问题，儿戏对之。陈延年同志因三月二十日前一二天才从上海才回到广州，方针上也掌握得不大稳。
3月22日，布勃洛夫派代表去见蒋介石。蒋介石希望大事化小，表现出了异乎寻常的热情。苏领事馆代表问：“这次事件是对人问题，还是对俄问题？”蒋介石说：“对人不对俄，希望不要误会，鲍罗廷也望早日回到广州。”鲍罗廷当时在北京。蒋介石喜欢鲍罗廷，不喜欢季山嘉，因为后者反对蒋介石北伐。苏领事馆代表说：“如此即可安心，我们即叫季山嘉回俄。”蒋介石打听到了苏俄不反击的底以后，放宽了心。现在，他最关心的是汪精卫的态度。
3月23日，汪清卫写了“因头晕，请给假治疗”请假条，突然隐匿，传闻住医院，但各处不能寻获。汪精卫身兼中央主席、军委主席和国民政府主席，蒋介石还不能过早得罪这位国民党元老。蒋介石见状，写报告要求从严处分自己，但在叙述事情原因时，又说：“此事事起仓卒，处置非常，事先未及报告。”因为蒋兵权在握，国民党中央执行委员会开会作决议：对于蒋同志表示信任，毋庸议处。
汪精卫丢了面子，坚持去法国看病。汪精卫一走，正中蒋介石下怀。他的此举，一方面打击了共产党，一方面挤走了汪精卫，一举两得。
3月24日，“苏俄观察团”团长布勃洛夫和苏联顾问开会研究三·二〇事件，布勃洛夫在会上说，蒋介石此举，是“针对苏联顾问和中国共产党的小规模政变”。苏联人分析事件时，有人认为，蒋介石此举的原因之一，是苏联顾问在国民党军队中犯了错误。
当天，索洛维约夫给加拉罕写信说，现在向蒋介石让步，召回季山嘉，是一个策略步骤，“以便赢得时间和做好除掉这位将军”的准备。为了不得罪汪精卫，索洛维约夫认为应该向他说明，“我们对蒋介石的让步是因为我们犯了错误迫不得已作出的，这绝不意味着我们的方针有改变，尤其不意味着我们对汪精卫和对整个国民党左派的态度有什么变化”。
3月27日，苏联“观察团”返苏至汕头时，布勃洛夫给在外地的鲍罗廷写信说，共产党“目前必须把在军队的力量转移到其他领域（党内教育、国家机关等领域）”。言下之诣，共产党的行为导致了蒋介石这么做。
这个观点，和国民党老右派不谋而合。月底，国民党老右派张继、居正、谢持、覃振等人在上海开伪国民党二大，幸兴灾乐祸地说，三·二〇事件是共产党“起反动于本党之政策发源地”，造成广州已经清共。
到上海后，布勃洛夫向《向导》记者发表谈话，说：“广州20日事变，黄埔军队短时间包围罢工及东山俄人住宅，逮捕李之龙及其他五十余人，都是事实”，“但也只有这事实，周恩来、邓中夏并未逮捕，均尚在广州，更无杀人之事”。