徐世昌走后，袁世凯开始大规模剿办义和团，为了防备德国军队异动，他把精锐的武卫右军留在了身边，随时准备打一场国际战争；征剿义和团的重任，则交给了山东地方军队。
在袁世凯的新建陆军崛起之前，李鸿章的淮军是大清朝第一劲旅，山东地方军队要等而下之一些，差不多只能欺负老实人，遇上洋兵不用说，肯定是跑，就是碰上敢于反抗的义和团，也照样没什么战斗力，袁世凯对此很不满意。
不过有让他满意的事，那就是1900年3月14日，朝廷给他升了官，署理巡抚变为正式巡抚。袁世凯只用了3个多月就转了正，算是非常际遇。
转正之后袁世凯干的第一件事就是搞了一次大阅操，并特邀德国胶澳总督托尔帕尔前来观操。武卫右军的操练，尤其是担任操练官的王士珍、段祺瑞、冯国璋给托总督留下了深刻的印象，禁不住夸赞道：“真是三杰啊！”“北洋三杰”的名号，由此不胫而走。后来人们又根据三个人的性格及行事作风，给他们分别命名为“龙、虎、狗”，即王龙、段虎、冯狗。
操练之后，袁世凯在他特意从德国柏林请回来的荫昌的协助下，与德资山东铁路公司经理锡乐巴订立了一份正式的铁路章程，即《中德胶澳交涉章程暨德华矿务章程》，主要内容包括：确保中国在胶澳地区的治权；确定中国主权；双方同意中国派遣一位交涉官，德国指定一官员在青岛，共同会商办理各项事宜；事先询问中国官绅的意见；顾及人民的权益。平心而论，对比之前的《中德胶澳租界条约》，此章程确实为中国争回了不少权益。
该章程还同时规定：“华商、德商会同办理的胶济铁路公司，由华人、德人共同集股；地方官员帮助公司办理购地、租房、招工事项；由山东巡抚派兵保护铁路；铁路公司不得妨碍居民利益。”
此章程的订定是3月21日的事，奉行的是袁世凯关于“教案和修路开矿等涉外事宜，一切按约章办事，没有约章的，马上谈判签订约章”之原则。
事实上此时胶济铁路已经动工半年，由于义和团运动，德国公司在勘测路基拆屋迁坟中遇到了不少麻烦，在高密等地发生了多起流血事件，被迫停工数月。在袁世凯的邀请之下，托总督委派锡乐巴到济南谈判。袁世凯之所以主动发起谈判，是因为他认为高密动乱很可能再度引发德军入侵山东内地，必须尽早结束。
袁世凯希望为山东带来变革，在他看来，铁路毫无疑问是变革的基础，这样谈判双方很容易就取得了共识，此后胶济铁路的修建就顺利起来了。但是当德国总督要求中方同意德军进入中立区时，袁世凯没有同意，理由是中德之间并未正式确立中立区。这个理由站得住脚，德国人也就放弃了其无理要求。
这时候消息传来，在端王和刚毅的运作下，毓贤在赋闲三个月后咸鱼翻身，接替邓华熙为山西巡抚。当时的山西是华北最富庶的省份，山西巡抚地位犹在山东巡抚之上，毓贤等于是高升了。毫无疑问，这是朝廷姑息纵容义和团的一个风向标。
袁世凯不管那些，只管着手整编地方军队，把山东巡抚衙门所辖的34营兵勇汰弱留强，整编成20营，共9000人，换番号为“武卫右军先锋队”，不仅给他们更新了军械装备，更从武卫右军中派出大批军官，由冯国璋主持操练，一时间军容大整。剩下14个营6000人的老弱病残，暂时没工夫强化，袁世凯索性将他们编成治安部队，由张勋统一负责，部署到全省各地，边训练边执行任务。
此时义和团已经对袁世凯恨之入骨，奈何法术不灵伤不到他一根毫毛。大师兄们灵机一动计上心来，某一天夜里派人跑到巡抚衙门外，在外墙上画了个头戴红顶花翎的大乌龟，趴在洋人的屁股后头，旁边大书一句：“杀了袁鼋蛋，我们好吃饭。”这还真把袁世凯吓了一跳。原来他刚刚把生母刘老夫人、妻子于夫人及二儿子袁克文接来。本来上任之初，袁世凯只带了长子袁克定来济南，主要是为了培养和历练，但公务之余，他一点没放松对最疼爱的袁克文的关怀和督促，甚至亲自拟订了一份学习计划寄给在老家读书的老二，该计划极为详细：
早起：黎明即起，醒后勿贪恋衾裯；习字：早餐后习字五百，行楷各半；读经：刚日读经，一书未完，勿易他书；读史：柔日读史，日以十页为限，见有典故及佳句，随手分类摘出，以资引用；作文：以五十为作文期，以史论时务间命题，兼作诗词；静坐：每日须静坐一小时，于薄暮时行之，兼养目力；慎言：言多必败，慎言，即所以免祸；运动：早起临睡，须行柔软体操；省身：每日临睡时须自省，一日作事可有过失，有则勿惮改，无则加勉；写日记：逐日记载毋间断，将每日自早至夜，所见所闻所作之事，一一记出。
就这样还是不放心，后来干脆就把一家老小全接了来。对太太于夫人，两人早已失去了感情基础，不过袁世凯信奉糟糠之妻不下堂，对太太很礼貌，每天都要到她屋里去坐一会儿，夫妇俩见面比两国元首会谈还要来得客气，互相鞠躬、握手，聊两句闲天，然后道别。对刘老夫人和儿子们就更不用说，那是血浓于水的亲情。比如他每天都会跟老夫人请3次安，陪老夫人说话，听妈妈讲那过去的事情，场景很是温馨。因为此，义和团扬言要杀他全家，并且把字画都写到衙门口来了，那还了得？袁世凯倒不怕义和团真打上门来，他相信他们没这个本事，但是他很怕母亲太太他们知道了担惊受怕，遂赶紧严令亲兵卫队加强巡逻防守，并警告大家绝不可在府里走漏半点风声。
另一方面，看看准备工作已经就绪，袁世凯一声令下，武卫右军先锋队立即开赴山东各地，在张勋所部治安部队的配合下，全面剿杀义和团。给大家送行的时候，袁世凯特意叮嘱手下将领：“凡是团匪，尽数杀掉。”
这些部队虽然只经过短暂的训练，战斗力较之前也已提高很多。义和团毕竟无作战经验，很快就被打得七零八落，光被杀者就高达4000多人。最开始每当活捉到义和团，手下都会请示是否押解到济南审理，袁世凯一律命令就地正法，毋庸送来。到后来，大家也就懒得再问，先杀了再说。
袁世凯的血腥杀戮，让远在北京的端王载漪、庄王载勋他们极为不满。6月的时候，战事已经接近尾声，两位王爷派了一个义和团的大师兄来找袁世凯，说端王命令立即停止剿杀，并要安抚义和团，允许设坛继续操练。
袁世凯立即召集僚属商议。大家一致认为：如果听端王的，义和团必将复兴；如果不听，则有抗命的嫌疑，端王现在势焰熏天，还是不得罪的好。左右为难之际，王士珍站起来说：“我去跟他谈谈吧！”
王士珍出门后二话不说，即将大师兄以假冒王爷名义之罪叫人推出斩首，然后回来报告：“来人是骗子，已经斩了！”
袁世凯大喜，当即命令前方宜将剩勇追穷寇，继续剿杀。结果有一天，炮队管带刘朝燕特从前线回来参见，请示说：“齐东有一座大村庄，居民七百余户，拳匪盘踞已久。土寨坚固，而且有快枪，军队到时，匿居于民房；军队离开，则四处骚扰，怎么办才好呢？”
袁世凯回答：“办大事，不可以有顾忌心理。假设再姑息容忍下去，哪还能有肃清的那一天呢？你马上带队前往，如果再抗拒，立即开炮轰击血洗，造孽归我一人承担！”
像这种玉石俱焚的打法，义和团哪里受得了？结果在死了上万人之后，拳民自感在山东存身不住，除了少部分回家务农之外，大部分都跑到义和团的另一大中心直隶（即河北）去了。
直隶此时是义和团的乐园，尤其在沧州、河间府、保定府各州县，几乎遍地都是拳民。由于这些地方离北京太近，京内主剿、主抚两派间争论的声调陡然提高，而慈禧的态度，依然摇摆不定。
这样到了5月12日，义和团在涞水县高洛村杀伤教民数十人，继而转战定兴县仓巨村，烧教民房屋十数家，直隶巡防营营务处总理张莲芬抵达涞水，一面促请直隶总督裕禄增兵前来，一面敦促涞水县令祝芾于高洛村抓捕了团民多人。16日那天，直隶练军分统杨福同率马队80余名由天津乘火车赶往涞水，会同张莲芬抓捕、杀死团民多人。同时天津镇总兵罗荣光派营官李瑞带步队400名开赴高碑店，直隶提督聂士成加派邢长春率马队2营赴保定一带防缉义和团。到了22日，涿州义和团汇聚涞水，一战下来，居然把杨福同给杀了。可见当时清军战斗力有限，而义和团并不弱。
裕禄得报大惊，马上找来布政使（俗称藩司）廷杰、按察使（俗称臬司）廷雍商议。这直隶三巨头中，裕禄没主意，而廷杰主剿，廷雍主抚，两个人争得不可开交。争了两天仍无结果，裕禄正不知所措之际，来了一道上谕：“直隶藩司廷杰内调，以臬司廷雍兼署藩司。”主抚的升官，主剿的失意，这风向很明白了。裕禄心想，朝廷既然要重用义和团，那么自己再不识时务，岂非有装13的嫌疑？于是这个曾经和袁世凯约定南北夹击义和团的裕制军，一面吩咐前方安抚义和团，千万莫动刀兵，一面把天津两个最大的大师兄张德成和曹福田，请来了总督衙门，并在静海县独流镇设起“天下第一坛”，甚至还拨了20万两银子公款以资赞助，一时间市面上聚集徒众3万多人，不少流氓混混也加入进来，烧教堂、杀教民，混乱不堪，甚至连穿学校制服的学生也被杀了不少。最令人吃惊的是，直隶总督衙门竟然成了天津义和团的总部所在地。
朝廷对涞水一案的处置印证了裕禄的判断，身为二品武将的杨福同死于义和团之手，非但没有恤典，反而落了个革职的处分，因为军机大臣刚毅说他“不该先伤义士”。
刚毅是旗人，生于1837年，笔帖式出身，循资历升到刑部郎中之时，遇见了一个大案——杨乃武与小白菜案。
这起案子发生在浙江余杭县，杨乃武是县里的一名秀才，风流倜傥。他热衷于替人诉讼赚钱，合法不合法的手段样样精通，基本算个讼棍，且根本不把官府放在眼里，因而得罪了县令刘锡彤。
小白菜本名毕秀姑，美丽而水灵，因生活所迫，嫁了个豆腐坊的伙计葛小大。葛小大长得不太端正，且身材相当矮小，收入极其有限，这样一个人，家里却有个如花似玉的老婆，免不了会出事。
最开始的一切简直就是《水浒》里西门庆和潘金莲故事的现实版，杨乃武费尽心机勾搭上了小白菜。后面的发展有所不同，葛小大中毒死了，虽然有无数证据证明不是杨乃武干的，但刘县令认为杨是凶手，他就成了凶手。于是杨乃武刚刚考中举人，就被抓了起来，残酷的刑讯逼供之下，他和小白菜分别招认了谋杀葛小大一事。案子办成了铁案，刘县令很满意。
眼看杨乃武和小白菜要被杀头，两家亲人不干了，赶紧上访，喊冤喊到杭州府，知府陈鲁和刘县令是好朋友，一阵酷刑下来，本想翻供的杨乃武和小白菜又全部招了，而且招得相当仔细、生动。
杨家人没有放弃努力，向上到浙江省臬司、藩司、抚台衙门告状。当时的浙江巡抚杨昌浚，原是左宗棠的手下大将，他要维护手下的官员，而刘县令早已打点好了他的左右，于是杨巡抚就以“无冤无滥”审结，按照杭州府原拟罪名判定，这下杨乃武他们俩死定了。
好在杨家人仍未放弃，他们选择了进京上访，可惜都察院不予过问，直接把他们押解回浙江，仍交给巡抚杨昌浚审理，结果可想而知。
但面对如此千古奇冤，整个浙江轰动了，杨家人再度进京告御状，这一次他们运气不错，不仅得到了素有“财神”之称的胡雪岩的财力支持，胡还托了翰林院编修夏同善设法帮助。
夏同善是浙江人，非常热心，他联络了浙江籍京官30余人，并得到了时任刑部侍郎翁同龢的援助，终于引起了朝廷的关注。朝廷派出礼部侍郎胡瑞澜为钦差，到浙江勘查此案，奈何杨巡抚组织人再次审讯，酷刑之下杨乃武与小白菜再次屈打成招，杨巡抚们笑了。
然而此时该案已经沸反盈天，翁同龢为此找到了恭亲王奕。但余杭刘县令和大学士宝鋆是同榜进士，有同门之谊，而宝鋆是奕最亲密的朋友，所以虽然翁同龢“长此以往，督抚必将更加坐大，而朝廷威信将荡然无存”的说法令奕悚然心惊，此事却仍不了了之。
多亏翁同龢不曾放弃，他和袁世凯的叔叔、刑部侍郎袁保恒一道，把事情捅到了慈禧太后那里。慈禧对于太平天国之后，中央权威日趋衰弱，而地方督抚愈加肆意妄为本已多有不满，一再权衡之下，终于下了懿旨：“叫刑部彻底根究。”
刑部接管了此案，具体负责审理的是3名司官，分别是翁同龢的侄子、林则徐的孙子，还有一个就是刚毅。这其中，最出风头的正是刚毅。
本次主审官是刑部尚书桑春荣，他得到了恭王和宝鋆的暗示，本想卖交情，不料刚毅表现得极其刚毅，认为自己站在道理上，只管秉公办案，根本不买自己顶头上司的面子，最终把案子查了个水落石出。
杨乃武与小白菜自然无罪释放，那会儿没有国家赔偿一说，两人除了感谢皇恩浩荡，其它也说不了什么。至于对贪官污吏的惩治，慈禧下了重手，结果是浙江官场有几十名官员丢官，其中刘县令被充军到黑龙江，杨巡抚被革了职。这个结果，算得上差强人意，毫无疑问这里面刚毅居功至伟，他也因此受到了奖励。此后刚毅的仕途很顺利，先外放道台，再江西臬司，再广东、云南藩司，到1885年升到了署理山西巡抚，第二年调任江苏巡抚，正式成为朝廷的方面大员。
刚毅勇于任事，在江苏干得不错，民间口碑很好，不过他得以高升军机大臣，很大程度上还是因为走了李莲英的门路，为此当然很花了些钱。
刚毅在军机处资格不算老，但他是旗人，又素有“能员”之称，且跟端王、徐桐等人立场一致，因此说话很有分量。
此时荣禄正因病请假在家休养，军机处剩五个大臣，领衔的礼王世铎是老好人，启秀和刚毅一样属于保守派，赵舒翘是刚毅推荐进的军机，而王文韶虽有不同意见，却属于多一事不如少一事的明哲保身者，所以既然刚毅定性为“先伤义士”，那么杨福同也就只能白死了。
这下子，涿州义和团声威大震，人数也越聚越多。到了5月26日，高碑店的团民打算坐火车去涿州会师，在买票时发生了不愉快，火车站卖给他们的是站票，价钱却和座位票一样，大家很不高兴，一怒之下就把铁路拆毁、电线杆通通拔掉。第二天涿州义和团如法炮制，把涿州至琉璃河的铁路、电线全给毁了，这样，保定到北京的火车和电报全部中断。再下一天，琉璃河到长辛店沿线几十里的铁路、车站、桥梁，被悉数破坏，甚至连紧挨京城的长辛店、丰台车站，也被一把火烧光，形势越发微妙起来。
荣禄急了，顾不上养病，急忙销假进宫面见慈禧，先劝得慈禧同意英、俄两国将驻扎在天津大沽口战船上的水手及海军陆战队官兵共337名紧急调往北京，以保护使馆区；再劝慈禧下令解散义和团，以免战乱发生。因为现在，他们在涿州那边已经闹得不成样子了。
对此建议，慈禧并不热衷，而刚毅坚决不同意，反而要求调义和团进京制约洋人。此时刚毅势力已经非同一般，除了军机处的班底，他和端王载漪更是打得火热。
端王那边核心人物共有4人，个个都不是省油的灯，其中载濓是他亲哥哥，贵为惇郡王，载澜则是他亲弟弟，受封辅国公，还有一个是庄亲王载勋。最令端王得意的是，荣禄手下的大将、武卫后军统领董福祥，也已被他拉拢过来。所以刚毅的底气不是一般的足。
见双方争执不下，慈禧又有点拿不定主意了，就想索性派个人去涿州看看义和团到底是如端王、刚毅所说的义民，还是像荣禄认定的匪徒，然后再作道理。于是当场定下了军机大臣赵舒翘及顺天府尹（约相当于北京市长，但管辖范围还包括河北一部分）何乃莹前往勘察。
一行人赶到涿州的前一天，聂士成因为接到荣禄“保护铁路，如有破坏格杀勿论”的命令，所以在卢沟桥发现有义和团要拆毁铁路，劝也劝不听，赶也赶不走，遂下令开火，一场激战下来，打死义和团488人。
赵舒翘本来就对义和团的装神弄鬼很不以为然，抵达涿州一看，确实乱得不像话，就想要奏请调兵剿灭，不想就在这时，刚毅从北京赶了过来，同时还来了一道邸抄，也就是上谕的官方抄件，责备聂士成不该擅自攻打义和团，“倘或因此激出变故，唯该提督是问”。赵舒翘顿时傻了眼，而刚毅对义和团赞赏有加，何乃莹官最小，更没话说，这样三个人商量下来，就给慈禧上了一道这样的考察报告：“拳民忠贞，神术可用！”
慈禧一看大喜，她老人家为洋人干涉她立大阿哥、换皇帝一事憋了一肚子气，只为害怕打不过，才不得不一忍再忍，现在看来，既然高举“扶清灭洋”大旗的义和团既忠贞又有神术，那么当然就该放他们出来，好好给洋人点颜色看看！