为此，1919年2月蔡元培和汪大燮、林长民、熊希龄等在北京大学召开“国际联盟同志会”，又于2月16日组织了“国民外交协会”，坚决主张维护国家领土完整，废除一切不平等条约和欧战期间中日两国所签订的密约及合同，收回德国在山东的一切权利。可是巴黎和会实际上是一个帝国主义分赃的会议。现实粉碎了蔡元培的幻想，当他得知北京政府密令中国代表在丧权辱国的和约上签字时，转而把一线希望寄托在爱国青年学生身上。他当即将此消息告知北大学生代表，并召集全校教职员开会，商议挽救办法。学生决定齐集天安门举行学界大示威，爆发了伟大的“五四”运动。“五四”之后，蔡元培积极奔走营救被捕学生，在军阀政府重压的险恶形势下，为保护学生，保全学校，蔡元培被迫于5月10日辞北大校长职南下。当惩办曹、陆、章和拒签和约斗争取得胜利后，蔡元培始于9月12日回到北京复任北大校长。
袁世凯倒台之后，各派军阀在帝国主义支持下为争夺北京政权连年混战，百业凋敝，教育经费短绌，学校经常因经费无着而陷于停顿。教育行政部门成为官僚们争权夺势之地。从1912年蔡元培辞第一任教育总长起到1916年间，已更换了十几任教育总长。为抵制军阀政权对教育的摧残，从1916年左右，教育界出现一种以要求教育经费独立为主，包括行政、立法、教学、管理等独立在内的教育独立思潮，到1922年间形成一种运动。1922年3月蔡元培发表了《教育独立议》，阐明了自己在这方面的观点，从而提出了他对教育行政管理制度的主张。
蔡元培说：“教育是帮助被教育的人，给他能发展自己的能力，完成他的人格，于人类文化上能尽一分子的责任；不是把被教育的人，造成一种特别器具，给抱有他种目的的人去应用的。所以，教育事业当完全交与教育家，保有独立的资格，毫不受各派政党或各派教会的影响。”因为“教育是要个性与群性平均发达的。政党是要制造一种特别的群性，抹杀个性。”“教育是求远效的；政党的政策是求近功的。”“教育是进步的”，“教会是保守的”。“教育是公同的”，“教会是差别的”，所以教育应成为超然于政党和教派之外的社会事业。如何实现这个要求？蔡元培提出在教育行政管理上实行“大学区制”。即将全国分为若干大学区，每区立一所大学，大学除进行高等专门教育外，负有管理本区中小学及一切社会教育的任务。大学事务由大学教授所组织的教育委员会主持，校长由此委员会举出；由各大学校长，组织高等教育会议，办理各大学区互相关系的事务。至于教育部，只管高等教育会议议决事务之有关中央政府者，及其他全国教育统计与报告等事，不得干涉各大学区事务。教育总长须经高等教育会议承认，不受政府内阁更迭的影响。大学中不设神学科，但于哲学科中设宗教史、比较宗教学等。各学校中，均不得有宣传教义的课程，不得举行祈祷仪式。以传教为业的人，不必参与教育事业。
各区教育经费由本区抽税充用。较为贫困的学区，经高等教育会议议决后，得由中央拨国家税补助。这是蔡元培博采法、德、美等国教育管理制度，针对当时教育状况而提出的一个方案，其意义不仅在解决使教育从军阀手中独立出来，挽救教育危机的问题，也是蔡元培对于理想的教育行政管理制度的意见。所以，在社会上引起广泛的反响。
随之，同年4月蔡元培积极支持在中国共产党领导下的，由上海学生首先发起的非基督教运动；在北京“非宗教大同盟”讲演大会上演说《非宗教运动》。反对宗教迷信，特别是反对作为帝国主义侵华工具的基督教以及任何宗教干预教育，是蔡元培一贯的思想。早在1900年他在《佛教护国论》一文中就称：“彼耶氏之徒袭君主之故智，称天以祸福人而恶哲学之害已也而仇之，是亦教之极无理者矣”。1917年他提倡“以美育代宗教”，并且着文分析宗教之起源是由于远古人们对周围世界认识的局限。“所以宗教只是人类进程中间一时的产物，并没有永存的本性”。社会发展到目前的阶段，宗教已无存在的余地，更不能容许它渗入教育。他在《非宗教运动》
的演说中说：“现今各种宗教，都是拘泥着陈腐主义，用诡诞的仪式，夸张的宣传，引起无知识人盲从的信仰，来维持传教人的生活。这完全是用外力侵入个人的精神界，可算是侵犯人权的。我所尤反对的，是那些教会的学校同青年会，用种种暗示，来诱惑未成年的学生，去信仰他们的基督教”。重申他在《教育独立议》中提出的教育脱离宗教的三点主张。蔡元培以学理和激进的措施支持和进行教育战线上反帝反封建的斗争，其立场是很鲜明的。
蔡元培这样一位有威望有影响的爱国主义民主主义思想家、教育家的存在和活动，对于军阀政府来说始终是感到芒刺在身，急于除去。所以，蔡元培一直受到多种压力，1920年曾被迫出国考察。对此事蔡元培写道：“这时候张作霖、曹锟等，深不以我为然，尤对于北大男女同学一点，引为口实。李石曾为缓和此种摩擦起见，运动政府，派我往欧美考查教育及学术机关状况”“于十一月下旬赴上海，乘一法国邮船，于十二月下旬到法国”。在这次行程中蔡元培曾至巴黎，参加留法学生善后事务委员会。除在法国考察外，1921年月到瑞士，后到德国、奥地利、匈牙利、意大利、英国、美国等地考察。
在美国期间，参加纽约大学毕业典礼，校长柏朗授他以法学博士荣誉学位。1922年8月应北洋政府教育部电请，到檀香山，出席太平洋教育会议。9月经日本归国。
归国后军阀统治的黑暗状况有增无已。蔡元培等人的“好人政府”、“南北和议”等努力都完全落空，于是以北大兼职教员、时任财政总长的罗文干在军阀派系之争中受诬一案为导火线，蔡元培决意再不与北洋军阀政府合作，于1923年1月17日愤然辞北大校长职，立即出都南下，准备再次出国。在辞呈中他痛切地说：“数月以来，报章所纪，举凡政治界所有最卑污之罪恶，最无耻之行为，无不呈现于中国”。“元培目击时艰，痛心于政治清明之无望，不忍为同流合污之苟安；尤不忍于此种教育当局之下，支持教育残局，以招国人与天良之谴责。惟有奉身而退，以谢教育界及国人”。并在各报刊上登载《启事》，宣布“自本日起，不再到校办事”。同年7月20日蔡元培离上海赴欧洲。8月到达法国巴黎。在法期间从事着述，协助办理华法教育会及里昂中法大学之事务。1924年8月赴荷兰及瑞典出席国际民族学会会议。同年11月到德国，向汉堡大学报名入学。1925年7月世界教育联合会第二次大会在英国爱丁堡举行，蔡元培参加了这次会议，在会上作《中国教育：历史的与现在的状况》
之专题讲演。蔡元培在欧洲的三年期间，虽然名义上北大校长的职务保持到1927年7月，但实际上他已不再主持工作，而由蒋梦麟代理。
从1917年到1923年，蔡元培除担任北京大学校长职务外，年12月北京孔德学校创办，被推为校长；1920年中法大学创立，被推为校长；1922年9月北京私立华北大学创立时，蔡元培被推举兼任校长。同年12月浙江省议会推举蔡元培为筹办杭州大学之董事。
1926年2月3日，蔡元培应北京政府教育部电促回国到上海。
这时正是大革命高潮时期。蔡元培作为一个教育改良论者，深受传统中庸、调和思想的影响，持互助论，反对阶级斗争学说；面对工农革命的洪流，他的这些弱点就暴露出来了。他的民族资产阶级妥协性的一面增长了，在立场上转向了右派国民党。1926年3月蔡元培和国民党右派分子吴稚晖，李石曾、古应芬在上海召开国民党中央监察委员会常务会议，并被推为主席。
以后参与了国民党的反共清党活动，附和了反革命，参加了南京国民党政府。
蔡元培在南京国民党政府中，主要是从事教育和科学工作。
1927年4月被任命为国民政府教育行政委员会委员。此时，蔡元培想实现其教育独立的宿愿，提议组织中华民国大学院为最高学术教育行政机关，试行大学区制。他说：“教育不可无主管机关，又不愿重蹈北京教育部以官僚支配教育之覆辙，因有设立大学院之主张。
其特点有三：(1)学术教育并重，以大学院为全国最高学术教育机关；(2)院长制与委员制并用，以院长负行政全责，以大学委员会负议事及计划之责；(3)计划与实行并重，设中央研究院为实行科学研究，设劳动大学提倡劳动教育，设音乐艺术院实现美化教育。此三点为余等主张大学院制之根本理由”。这个提案被通过，1927年月大学院成立，蔡元培任大学院长。在蔡元培的提议下，在江苏、浙江两省试行大学区制。
在大学院院长任内，蔡元培主持了大学院艺术教育委员会第一次会议，通过《筹办国立艺术大学之提案》，创设国立西湖艺术院(后改为国立杭州艺术专科学校)，初建校时自兼院长，推进我国艺术事业的发展。1928年在蔡元培主持下，大学院通令废止春秋祀孔旧典。1928年5月15日大学院召集的全国教育会议在南京开幕。蔡元培在开会词中提出三项教育方针：
“(一)提倡科学教育，一方面从事科学上高深之研究；一方面推广民众的科学训练，俾科学方法得为一般社会所运用；(二)养成全国人民劳动的习惯，使劳心者亦出其力以分工农之劳，而劳力者亦可减少工作时间，而得研究学识机会，人人皆须致力于生事业，人人皆得领略优美的文化；(三)提起全国人民对于艺术的兴趣，以养成高尚、纯洁、舍己为群之思想。简言之，使教育科学化、劳动化、艺术化”。
在蔡元培主持下，大学院还发布通令，限各省、区、特别市在1929年9月前制定推行义务教育计划；通令提倡白话文：小学一律用语体文教学，初中入学考试不考文言文等。可是，蔡元培这些民主科学的良好愿望，在国民党新军阀的统治下依旧不能实现。对大学院怀疑非议者颇多，大学区制并未能使行政机关学术化，反而使学术机关官僚化。
在江浙两省试行中问题甚多，而后来建立北平大学区更成为某些人想独霸北方教育权的争权夺利的对象。蔡元培在失望与不满之下，于1928年8月请辞去大学院长、中央政治会议委员、国民政府委员、代理司法部长本兼各职，表示：“去志早决，义无返顾”。旋即携眷离南京，定居上海。
蔡元培在1927年5月曾被推为中央研究院筹备委员，大学院改为教育部后，中央研究院划为独立机构。他在辞去大学院本兼各职后，即专任中央研究院院长，还被任命为故宫博物院理事、理事长，1929年兼任国立北平图书馆馆长。
蔡元培一贯重视科学和科学教育。1915年他在复中国科学社社长任鸿隽的信中说：“欲救吾族之沦胥，必以提倡科学为关键”。
他认为，“教育文化为一国立国之根本，而科学研究尤为一切事业之基础”。所以他以全副精力从事研究院的创建和领导工作。蔡元培认为独立的研究院和大学的研究院不同。“大学研究院，既须兼顾教员、毕业生、高级生三方面之方便，故其所设研究所之门类，愈多愈善，凡大学各院中主要科目，以能完全成立为最善”。“独立研究院以研究员为主体”，其科目不求备，视有特殊之研究员与社会有特别之需要而设之”。“前者稍偏于博大，而后者稍偏于精深”。根据这个精神，在他的苦心经营下，到1930年初共成立了物理、化学、工程、地质、天文、气象、历史语言、心理九个研究所，和一个自然博物馆，聘请了国内一些着名的科学家和学者任研究员，为发展我国的科学事业作出了杰出的贡献。
蔡元培晚年虽然离开了教育工作岗位，但他对教育事业的关怀始终如一。1929年1月他被选为中华教育文化基金董事会议董事长。还担任过大同大学校长；并参加中华职业教育社的活动，推动发展职业教育。1934年蔡元培发表《我在北京大学的经历》，1937年写《我在教育界的经验》，总结自己的思想与教育经验；事实上这也是总结中国先进的知识分子从清末以来为在中国建立民主的、科学的新教育的战斗历程；因此，也是蔡元培对国民党的反动派所实施的封建主义、法西斯主义教育的一种反击。为了打破国民党的文化“围剿”和思想专制，倡导学术研究自由，1933年蔡元培和陶行知、李公朴、陈望道、黄炎培等百余人，在上海发起马克思逝世五十周年纪念会。针对当时在教育中的封建复古主义，1935年5月蔡元培发表《对于读经的意见》，明确指出：“我认为小学生读经，是有害的，中学生读整部的经，也是有害的”。
蔡元培在1928年就已经看到南京国民党政权是“豺狼当道”，因不愿与豺狼为伍，所以辞去一切职务，拒绝担任除科学事业外的任何官职；到“九·一八”事变以后，蒋介石的卖国、独裁、法西斯的面貌更加暴露无遗。在祖国危亡之时，蔡元培积极从事抗日救国活动。
1932年与宋庆龄、杨杏佛等筹组“中国民权保障同盟”，蔡元培被选为临时中央执行委员。“同盟”为营救被捕的民主人士、共产党员作了大量工作。
1936年冬蔡元培七十岁时得了重症伤寒，身体健康受到很大损害，生命垂危。1937年抗日战争爆发后，移居香港疗养。这时蔡元培已近风烛残年了，但他对于中央研究院院务，“仍力疾主持或参与，未尝言劳”。蔡元培居港期间，忧愤国事，生活清苦，身体日渐不支。1940年3月5日，一代宗师，溘然长逝。享年七十四岁。安葬在香港仔华人永远坟场。
全国人民对蔡元培的逝世表示深切哀悼。重庆各界举行公祭，延安、香港以及贵州、云南、广西、广东、湖南、湖北、江西、浙江等地都举行了追悼大会，隆重悼念。
3月16日国民政府发布褒扬令，表彰他对我国教育、科学、文化事业上所作出的贡献。中共中央的唁电说：“先生为革命奋斗四十余年，为发展中国教育文化事业勋劳卓着，培植无数青年，促成国共两党合作”。毛泽东的唁电中称蔡元培先生为“学界泰斗，人世楷模”。4月14日在延安各界追悼会上周恩来的挽联是：“从排满到抗日战争，先生之志在民族革命；从五四到人权同盟，先生之行在民主自由”，概括了蔡元培光辉的一生。
蔡元培着述极丰，收入1984年中华书局出版的《蔡元培全第1章全面和谐发展的教育纲领
(一)“养成共和国健全人格”的教育目标
蔡元培抨击清朝“忠君”、“尊孔”的教育方针，指出“忠君与共和政体不合，尊孔与信教自由相违”。在《全国临时教育会议开会词》