在这样的局面之下，所谓的民主选举其实根本就只是一种形式而已。对于这一点，冯国璋自然看得很清楚。因此，他才会在进行国会议员选举前一再对外界表示，自己并不愿意参加总统选举。到了五月份，已经正式开始选举之后，看到混乱无比的大选，冯国璋更是两次对梁启超表态，说自己绝不参加任何选举活动。
在安福系的操控下，热闹异常的国会选举结果在7月底揭晓了。除了之前就明确表示抵制这次选举的广东省、广西省、云南省、贵州省以及四川省五省之外，这次选举共选出了参议员和众议员一共472名。
很自然地，在这472位议员之中，安福系的政客就有384人，而得到直系军阀支持的研究系只有20多名议员当选。其余的议员，则是一些其他的政治派别代表。看得出来，这次选举段祺瑞及其安福系大获全胜冯国璋及他支持的研究系则惨败。不过，这也是意料之中的事情。
尽管段祺瑞获得了新国会选举的胜利，但是他想要通过这次选举就把冯国璋赶下台，自己当上正式大总统，也是一件相当困难的事情。冯国璋及其支持的研究系虽然在这次选举中落败了，而且冯国璋本人困守皖系占据主导地位的北京也确实难有作为，但是他好歹也是直系的龙头老大，想要他立即下台也不容易。况且，此时的长江三督李纯、王占元和陈光远，在经过冯国璋的劝解后有了再次联合起来的趋势，而原本已经倒向主战派的曹锟和吴佩孚，此时也逐渐与冯国璋交好，因此各方面的因素都使得段祺瑞即便选举获胜，也不敢立即有所行动。
段祺瑞的担心是有道理的。选举结束之后没多久，李纯就于6月3日在南京召开了一个有各省议会代表参加的联合会，并以联合会的名义向全国发表了一份停战议和的宣言，一时间引起了极大的反响。
看到自己的心腹开始行动起来，冯国璋也大受鼓舞。于是，他便秘密派遣直系老将陆建章到天津去面见曹锟，目的是为了说服曹锟抛弃前嫌，与李纯南北合作。谁知，冯国璋的保密工作没做好，陆建章去天津的消息被徐树铮等人知晓了。徐树铮当然害怕曹锟与李纯合作，因此就于6月15日，把在冯国璋、李纯和曹锟中间来回活动的陆建章杀死在了天津军粮城的奉军司令部里。
毫无疑问，徐树铮此举就是为了杀鸡给猴看，给冯国璋一个警告。然而，徐树铮的暴行，却进一步激化了直系军阀和皖系军阀之间早已存在的矛盾。
也就在陆建章遇害的同一天，吴佩孚实现了与南方护法军的停战。
到了八月份，对段祺瑞深恶痛绝的吴佩孚接连发表了好几份全国通电，大力抨击段祺瑞政府的暴力和野蛮行径，而且明确反对由所谓的新国会选出新任总统。至于理由，在8月7日吴佩孚发给李纯的一封电报里讲得很清楚：
“此次新国会选举，政府以金钱大施运动，排除异己，援引同类，因之被选议员，半皆恶劣。此等国会……极其流弊，卒以政府不受法律约束，伪造民意，实行专制”。
也就是说，在吴佩孚看来，这次新国会选举根本就充满了徇私舞弊，是金钱和政治交易的产物，非但不民主，而且会产生出新的专制，因此在8月21日的全国通电中，吴佩孚直接指出，在南北政治势力依旧没有和解的情况下，由所谓的新国会选举产生正式大总统，“不但于法理不合，且恐促民国分裂”。
吴佩孚的这份通电，很快就得到了“长江三督”李纯、王占元和陈光远三人的积极响应。很明显，这份通电矛头直指段祺瑞及其安福系。因此，在吴佩孚发表全国通电之后，李纯、王占元和陈光远三人又提出，必须先解决南北分裂的时局问题，然后才是选举新任大总统。
换句话说，在李纯三人看来，此时最重要的并不是选举谁当总统的问题，而是到底要不要选举总统的问题。当然，在这个问题背后的，依旧是皖系军阀和直系军阀之间冲突和矛盾的斗争。
当时，以段祺瑞为首的皖系自然希望尽快选出新任大总统，由段祺瑞或者徐世昌担任，同时把冯国璋赶下台。而以冯国璋为首的直系，自然希望缓选。在冯国璋等人看来，甚至应该先实现南北的议和，然后趁势打倒段祺瑞。
吴佩孚和长江三督的接连通电，让段祺瑞感到事情并没有自己预料的那么顺利。他明白，倘若自己现在硬着干，也就是让新国会尽快选出正式大总统的话，那么绝对会爆发直系和皖系之间的战争，局势肯定会进一步恶化。
为了缓和紧张局势，段祺瑞出面一再表示自己不仅不希望当总统，而且早就想“抛弃现有之政治上地位”。可是段祺瑞这样说是有前提条件的：新国会的总统选举必须如期举行，并选出新总统，让“国家主持有人”。一旦满足了这个条件，段祺瑞表示自己甚至可以辞去内阁总理一职。
那么，段祺瑞这里所谓的“国家主持有人”指的究竟是谁呢？很显然，这个人不是冯国璋，而是徐世昌。实际上，在北洋各派之中，不仅段祺瑞支持徐世昌当总统，而且冯国璋以及长江三督，甚至曹锟都对徐世昌当总统表示拥戴。
在这样的政治形势下，1918年9月4日召开的总统选举大会上，徐世昌以425票的高票当选，要知道当天出席会议进行选举的参众两院议员总共才436位。因此，除了公开表示反对的西南军阀和吴佩孚之外，徐世昌的当选可以说是众望所归。徐世昌当选的同时，段祺瑞和冯国璋两人都下台了，这无疑是政治上相互妥协的结果。
可是，就在徐世昌上台，冯国璋和段祺瑞同时下野的时候，徐树铮又出来阻止段祺瑞如期辞职。很明显，这是段祺瑞想借着徐树铮的帮助，希望能保住自己总理一职的举动。然而，段祺瑞的下台已经是铁板钉钉了，他和徐树铮两人的出尔反尔，只会招来更多的不满。
9月14日，曹锟致电上海报界，痛责国内“阋墙于中”，公开改变自己先前的主战立场，开始支持南北议和。同时，他还致电徐世昌，表示自己拥护徐当总统，认为这样做“为大局策万全，非为一方徇私意；为亿兆谋幸福，非为一人谋禄位。”
紧接着，吴佩孚又于20日发表通电，请求曹锟出来主持内阁，这无疑是将矛头直指还在恋栈的段祺瑞。吴佩孚的电报，让皖系内部炸开了锅，很多皖系将领此时也开始觉得应该让段祺瑞下台了。尤其是靳云鹏，更是认为段祺瑞“非速退无以自全”，经过激烈的争论，最终段祺瑞选择了下野，并于10月9日向徐世昌正式递交了辞呈。段祺瑞还表示，自己将来只是担任参战督办一职，对于国内的战争再也不过问了。
就这样，段祺瑞和冯国璋都下台了。1918年10月10日，徐世昌正式就任大总统，并与冯国璋完成了交替礼。就职仪式举行完毕后，冯国璋随即离开总统府，回到了自己位于地安门帽儿胡同的府邸。
此时的他，心情虽然平静了不少，但是依旧有些遗憾和寄托。用他在10月7日发表的离职通电中的话来说就是，“南北兵祸，实起于国璋摄政以前，而兵事之不能结束，则在国璋退职以后。”因此，冯国璋真诚地希望南北双方“及早回头，推诚让步”。只有“群起建议”，才能“挽救危亡”。在通电的最后，冯国璋还坚定地表示，“国璋不死，誓必始终如一，维持公道。”
英雄落寞，依旧主和
在上述电文的最后，冯国璋还说道：“倘天心人意，尚可挽回，大局不久底定，国璋一生愿望，早已过量，绝无希望出山之意。”也就是说，只要能实现南北的议和，那么冯国璋的心愿就了了，他就再也没了出山的念头。可是，作为一个政治家，长期手握重权，执掌北洋政府军政大权多年，突然离开了权力中心，心里肯定是有些不痛快的。
据说，就在下野之前，冯国璋还曾向身边的心腹说，自己称雄北洋军政界几十年，最遗憾的是竟然最后还让段祺瑞得了志，这真是白活了数十年。
幸好，后来在多方面因素的作用下，冯国璋虽然没有打败段祺瑞，但是也让他同自己一起下野，也算是可以聊以慰藉了。
实际上，冯国璋虽然下台了，但是徐世昌却已经想安慰他的不满情绪。因此，徐世昌就任大总统后的第三天，就任命冯国璋仍然总领陆军第十五师和第十六师，这两个师都说得上是冯国璋的嫡系部队，足见徐世昌对冯国璋的重视。
除此之外，徐世昌还多次劝冯国璋还是待在北京，不要着急回到河间故乡去。徐世昌这样做，一方面是基于往日交情，另一方面，也是更重要的，就是想要通过冯国璋来帮助自己调解直系和皖系军阀之间的矛盾。然而，冯国璋心里很清楚，直系和皖系之间的矛盾实在是太深了，自己根本无心也无力去进行调解。另外，说白了，冯国璋即便想要留下来，更多也是为了壮大直系的力量，同时倡导南北议和，哪会去想着改善与皖系的关系呢？
因此，当10月23日冯国璋收到熊希龄、张謇和蔡元培等人组成的“和平期成会”发来的通电时，很快就于第二天复电道：“诸君创办此会导舆论政治上之正轨……国璋一年以来所有志未逮者，亦得因诸君之继起而告厥成功。”在电文中，冯国璋还承诺“倘有相需之外，必竭绵薄以从”。