蒋介石当初原在上海物品交易所当小职员，收入不多，很不得意。耳闻黄金荣的势力，就托虞洽卿介绍拜黄金荣为先生。黄金荣同意之后，由徐福生当传道师，正式举行拜师仪式，投了门生帖子。
1921年上海交易所发生不景气风潮，蒋介石和陈果夫等经营的恒泰号经纪行亏空甚巨，蒋本人亦欠债数千元，经黄金荣、虞洽卿出面代为了结。当时蒋想去广州投奔孙中山先生，黄金荣认为自己替孙先生出过力，就与虞洽卿一同资助旅费，使蒋走上了“国民革命”道路。
1926年至1927年期间，蒋介石当了北伐军总司令。在到上海之前，黄金荣即和虞洽卿商量，退还门生帖子。蒋介石到上海后，由虞洽卿结伴同去黄金荣家探望，黄改变了过去的师徒称呼，对蒋说：“总司令亲自到我家来是我的光荣，过去的那段关系已经过时了，那张红帖我找出来交给虞老送还。”蒋介石当时谦虚地说：“先生总是先生，过去承黄先生、虞先生帮忙是不会忘记的。”说罢从怀中取出一只黄澄澄的金挂表送到黄金荣面前说：“这是我送给黄先生的纪念品，略表心意。”黄金荣接过表，连连称谢。黄金荣对这只金表，一向重视，每逢喜庆大事，总要拿出来炫耀一番，一直保存到死后，被黄源焘取去。
北伐军到上海后，黄金荣和虞洽卿等，曾召集工商界以及社会名流为蒋接风祝贺，并为蒋的军队筹集了10万元的“慰劳费”，蒋把10万元交给虞洽卿、黄金荣，虞洽卿把5万元捐献给慈善事业，黄金荣也捐给陆伯鸿等办教会事业。
蒋介石北伐到上海时，警卫部队约有一百多人，驻扎在南市董家渡附近，蒋本人决定随带警卫队长便衣进入法租界。为了保护蒋介石的安全，警卫队抽调了六十多人，开了两辆军用卡车，由董家渡出发，经外马路转一枝春街，准备进入法租界的爱多亚路。车到一枝春街口，被法租界的安南巡捕拦阻，不许这两车军警进入租界，并将两辆警卫车拦进法租界巡捕房，蒋的警卫队长也被扣押。黄金荣得知后，亲自到法租界巡捕房，与程子卿一起向法捕房头头解释，说蒋总司令进入租界是看黄的，黄为安全起见，请蒋的警卫队开进租界到黄家保卫，希望和平解决。法捕房打电话请示法国领事馆，法领事感到事态严重，指示捕房让黄金荣出面调解，黄金荣主张先让被扣押的两辆警卫车开进法租界游行一圈，然后开到八仙桥钧培里黄家。法捕房同意了黄的主张，通知一枝春街的法捕房让警卫车开进法租界，经爱多亚路进入八仙桥钧培里路口。黄金荣办了这事，颇得蒋介石的赞赏。
1927年蒋介石发动“四一二”政变，黄金荣、杜月笙、张啸林等组织中华共进会，充当反共先锋，蒋介石先后拨付十多万元费用，并在事后以陆军总司令部名义，聘任黄金荣为少将参议，杜月笙、张啸林为少将顾问，后来又委黄金荣为南京国民政府参议，奖给勋章。黄家花园落成时，蒋介石题了“文行忠信”四字，黄金荣奉如至宝，刻在黄家花园四教厅（四教厅的命名就是根据蒋介石题的四个字）右边的六角亭上，在黄氏门人结社时，也以“忠信”为社名。
尔后，蒋介石成立南京政府，与武汉政府对抗时，也得到了黄金荣的鼎力支持。此为后话不讲。
老鼠过街，人人喊打
“四一二”大屠杀后，蒋介石的日子开始危机四伏，他遭到了国民党各派的攻击。当时中国存在着西山会议派、汪派、蒋派和李宗仁为首的桂系派等派别。
4月15日，武汉国民党中央决定开除蒋介石党籍，取消其国民革命军总司令职务。委任冯玉祥为国民革命军总司令，唐生智为副总司令。
命令指出：
蒋中正屠杀民众，摧残党部，甘心反动，罪恶昭彰，已经中央执行委员会议决定，开除党籍，免去本兼各职。着全体将士及革命民众团体拿解中央，按反革命罪条例惩治。
4月16日，中共方面周恩来等曾致电中共中央，建议武汉政府迅速出师东征讨伐蒋介石，周恩来等在意见书中分析了东征讨蒋的必要性，列举了蒋介石种种反革命行径，指出如不迅速讨蒋，“则蒋之东南政权将益固，与帝国主义关系将益深；”“即使武汉北伐，能直捣京津，而蒋之政权已固，继蒋而起者亦将大有人在，日帝国主义在北方亦未尝不可与国民政府成直接冲突。”因此，东征讨蒋是唯一正确，“再不前进，则彼进我退，我方亦将为所动摇，政权领导尽将归之右派，是不是使左派灰心，整个革命必根本失败无疑。”
意见书还进一步分析了讨蒋取胜的可能性。从总的军事实力分配看，国民革命军主力部队有十二个军，其中有九个军表示服从武汉政府，有三个军驻在苏皖地区受蒋介石指挥。地方军阀投诚改编的杂牌军有十六个军，虽多数受蒋介石节制，但他们的战斗力很弱，又脚踏两只船，不能领导他们作战。蒋介石能用来作战的只有一、七、九这三个主力军。其中李宗仁的第七军属于新桂系，与蒋介石有较深的矛盾，能否坚决助蒋，亦难以断定。所以“蒋介石能直接使用的军队仅五个师”，而其中的第一师、第二师和第二十一师已死伤过半，“在南京者仅有第三师、十四师，如何能抗东下之兵？”周恩来在意见书的最后强调，讨蒋军事工作“必须有计划、有名义、有负责人、有密函，方能使左派军官相信中央政府”。
然而武汉国民党中央却主张继续北伐，希望在北伐中同冯玉祥所部会师，打通同苏联的交通线，然后再回过头来对付蒋介石。
4月13日至4月16日在武汉召开的中共中央委员会上，共产国际派来的代表罗易和苏联总顾问鲍罗廷意见分歧，争论不休。罗易是共产国际执委会主席团的成员和共产国际中国委员会书记处书记，他是受共产国际的委派，手里拿着共产国际执委会第七次全会通过的关于《中国问题决议案》，于4月2日到达武汉的，盛气凌人。罗易要坚决贯彻决议案的精神，认为应先开展土地革命，巩固两湖，使革命深入，在这个基础上进行北伐。鲍罗廷认为共产党应和国民党左派一起立即开始第二次北伐，与冯玉祥会师河南，再攻打北京；攻下北京后，再搞土地革命。罗易反驳说，将武汉所有的军队集中去打北方的张作霖，造成武汉防卫空虚，就给蒋介石或北洋军阀从南京方面进攻我们以可乘之机。在这种情况下北伐不但没有任何意义，而且是军事冒险！
两种意见，针锋相对。
在中国共产党内，对以上问题，也有争论，瞿秋白主张东征讨蒋，但多数人不主张东征。蔡和森主张在立即实行土地革命等条件下进行北伐。张国焘、谭平山主张南征回广东，首先打李济深。陈独秀、彭述之、张太雷赞成鲍罗廷的北伐主张。