1926年3月18日，蒋介石指使他的一个亲信——海军学校副校长——孙文主义学会成员欧阳格，以黄埔军校驻省办事处的名义，打电话给海军局代理局长兼中山舰长李之龙（中共党员），令他将中山舰调至黄埔港候用。
李之龙不知是计，收到命令后遂用笺纸写了两命令：一令交给宝璧舰舰长，一令交给中山舰代理舰长章臣相。命令略云：“将该舰开赴黄埔，听候蒋校长调遣。”
3月19日上午6时宝璧舰抵达黄埔。7时，中山舰抵达黄埔。
中山舰，即1923年孙中山在广州蒙难时所驻守的那艘“永丰舰”，也是当时广东最大、最新型的兵舰；孙中山逝世后不久，为纪念他，乃改名为“中山舰”。
中山舰的行动，本是奉命行事，但蒋介石这时却覆手为雨地说：这是“无故升火达旦”，是“扰乱政府之举”，诬蔑是共产党阴谋暴动。更为离奇的是，蒋介石在后来的回忆中说：“我知道共产党阴谋的爆发，就在于此。但我在当时，只知道他们是要叛变，要加害我，还不知道他们的企图究竟是什么。一直到了这一叛乱平定之后，我才知道他们的计划，就是要在我从广州省城乘舰回黄埔军校途中，强迫我离粤，直驶海参崴，送往俄国，以消除他们假借国民革命来实行其‘无产阶级专政’的唯一障碍。”19日夜里3时（即20日凌晨3时），蒋介石到造币厂开始行动，命令陈肇英、王柏龄执行逮捕李之龙的任务；刘峙执行扣押第二师各级党代表的任务；第二师第五团占领海军局，并解除海军局的武装；陈策、欧阳格执行占领中山舰并解除中山舰武装的任务，吴铁城所部监视汪精卫、季山嘉及苏联代表团与全市著名共产党员的住宅和机关。他们预定，只要任何方面的共产党一开枪反抗，他们就以第二师、新编第一师（吴铁城兼部长）及公安部队来一次战地大屠杀。
这就是蒋介石制造震惊中外的“中山舰事件”的真相始末。
然而事变发生后，蒋介石却向军事委员会做了个冠冕堂皇的报告，说：
为呈报事，本月十八日酉刻，忽有海军局所辖中山兵舰，驶抵黄埔中央军事政治学校，向教育长邓演达声称，系校长命令调遣该舰特来守候等语。其时本校长因公在省，得此项报告，深以为异，因事前并无调遣该舰之命令，中间亦无传达之误，而该舰露械升火，经一昼夜，停泊校前，于十九日晚之深夜开回省城，无故升火达旦，中正防其扰乱政府之举，为党国计，不得不施行迅速之处置，一面另派海军学校前副校长欧阳格暂行代理舰上事宜，并将该代理局长李之龙扣留严讯，一面派出军队于广州附近，紧急戒严，以防不测。
再说“中山舰事件”发生时，汪精卫身体不适，在家养病。这天早晨，陈公博先赴汪精卫处，报告了事变情况。以后谭延闿、朱培德拿了蒋介石的一封信来汪家中，信中曰：共产党阴谋暴动，不得不紧急处置。事后通报，请求汪主席谅解。汪精卫看后大怒，无比激动地说：“我是国府主席，又是军事委员会主席，介石这样的举动，事前一点也不通知我，这不是造反是什么？”并立即要和谭、朱到蒋介石处，质问蒋是何居心。夫人陈璧君急忙劝阻：“你身体有病，是不能去的。”汪精卫愤然地说：“好！你们先去，看他如何说法，我在党的地位和历史，不是蒋介石能反对掉的！”
3月21日，汪精卫以军事委员会主席的身份，把朱培德、谭延闿、李济深等几个军长召来，意在与他们商量反击蒋介石的方法。汪精卫要他们把蒋介石扣留起来。这些人虽与蒋介石有水火不容的矛盾，但他们暗自权衡利弊：如得罪了后者，于己不利。于是，他们不吭一声，保持沉默，汪精卫未能如愿以偿。而当时共产国际和中国共产党中央也没有组织华侨委员会任何形式的反击，汪精卫对此无可奈何。
汪精卫气愤地致函国民党中央委员会请求一段病假，声称：“甫一起坐，则眩晕不支，迫不得已，只得请假疗治”，所有各项职务均请暂时派人置理。当日傍晚，蒋介石去探望汪精卫。汪精卫怒火中烧。事后蒋在日记中说：“傍晚，访季新兄病。观其怒气勃然，感情冲动，不可一世。甚矣，政治势力之恶劣，使人无道义可言也。”
22日，国民党中央政治委员会在汪精卫寓所召集临时特别会议，蒋介石也到会。汪精卫在发言中指桑骂槐地说道：军事当局非奉党的政治领袖的命令不得擅自行动。会议决定：“工作上意见不同之苏俄同志暂行离去”；“汪主席患病，应予暂时休息”；“李之龙受特种嫌疑，应即查办”，3月23日汪精卫声称“病了”，要到外地就医。25日汪精卫又表示：“不再负政治责任”，然后汪的“行踪不可得”。汪精卫在政治委员会临时特别会议之后隐居不出，据陈璧君说，一是为了“疗病”，一是为了让蒋介石“反省一切”。实际上汪精卫一直躲在广州观察事态发展，如果苏联顾问和中共方面反击，压倒蒋介石，则他可以坐收渔人之利，乘机再起，“收拾残局”。但事实上使汪精卫大失所望，苏联顾问与陈独秀对蒋介石步步退让，局势无法挽回，而蒋介石除了装模作样地给军事委员会写过一个自请处分的呈状以外，并无什么像样的“反省”行为。其间，汪精卫读到了蒋介石致朱培德的一封信。信中，蒋介石毫不掩饰地表露了他对汪精卫的疑忌，心照不宣，于是，汪精卫决定出国。
3月31日汪精卫致函蒋介石，内称“今弟既厌铭，不愿与共事，铭当引去。铭之引去，出于自愿，非强迫也”。蒋介石于4月9日复信说：“譬有人欲去弟以为快者，或有陷弟以为得计者，而兄将如之何？”又说：“以弟之心推之，知兄必无负弟之意，然以上述之事实证之，其果弟为人问乎？抑兄果为人问乎？其果弟疑兄而厌兄乎？抑吾兄疑弟而厌弟乎？”汪精卫在这种“兄弟情谊”的“温情脉脉”中，被蒋介石一脚踢出了广州，5月11日，汪精卫悄然离粤赴港，在船上遇到了他的“难兄”胡汉民。胡、汪在同盟会时是孙中山的左膀右臂，中山逝世后，汪成了左派领袖，胡成了右派“司令”，如今一起又被蒋介石左右开弓逼走海外，这两位老同事同舟渡海，却以泪洗面，无话以对。周恩来曾对此分析说：“蒋介石打击左派以取得右派的支持，又打击右派以表示革命，这就是他的流氓手段阴险恶毒的地方。”
汪精卫于6月中旬抵达法国，在巴黎近郊当“寓公”，以示与蒋介石的不合作，所以当时有些苏俄顾问称汪精卫为“胆小如鼠”的“懦夫”，且中要害。
汪精卫愤然出走，正中蒋介石下怀。4月16日，蒋介石召开了国民党中央党部和国民政府联席会议，改选了国民党中央政治委员会主席和军事委员会主席，由谭延闿、蒋介石分别取代汪精卫为中央政治委员会主席和军事委员会主席，决定兴师北伐。
蒋介石在“中山舰事件”中捞到了很大好处，这与他的导师张静江的参谋有很大关系。
张静江在孙中山逝世后，住在上海，他静观局势的发展，既没有站在汪精卫一边，也没有参加邹鲁、居正等人组织的国民党伪中央，他准备在局势明朗时再参加权力斗争。
蒋介石在国民党中势力迅速上升，他掌握了部分军权，成为实力派人物，张静江对他看好。张静江得知蒋介石发动“中山舰事件”后，“不辞道远，刻日南行”，为蒋介石献策。
张静江事先没有参与谋划“中山舰事件”，但他在善后工作中，却出了不少主意，这些主意帮助蒋介石从孤立的危境中摆脱出来，同时搬掉了最后一大障碍汪精卫，这就用不着盘算下一步计划如何收拾汪精卫。这也叫一枪打两鸟，意外的收获。