袁术与袁绍原来有点小过节。袁术求援于公孙瓒，公孙瓒派刘备屯兵高唐，单经屯兵平原，陶谦屯兵发干，用以威逼袁绍。曹操与袁绍会兵攻击各据点，各地都被击破了。
初平四年（193年）春，袁术进军-城，荆州牧刘表切断了袁术的粮道。袁术领兵进入陈留郡，屯兵于封丘县（今河南封丘）。黑山黄巾的余部和匈奴於夫罗等协助袁术。袁术派部将刘详分兵屯扎封丘东北的匡亭（今河北长垣西南），以成掎角之势。曹操亲率大军攻打刘详把守的匡亭。于是袁术急忙去救刘详，与曹操交锋，曹操大败袁术。袁术退保封丘，曹军马不停蹄，进围封丘，在还没有能完全合围的时候，袁术弃城出逃，投奔襄邑（今河南）。曹兵追到太寿，决开黄河渠堤，以泛滥的洪水灌城。袁术又逃了出来，到了宁陵（今河南蔡丘东南），曹操又率兵追击，袁术又逃到了扬州九江郡（今安徽寿县），这才得以安定下来。夏天，曹操领军回到了定陶。
汉献帝初平四年（193年）六月，下邳（今江苏宁西北）人阙宣，聚众数千人造反，自称天子。徐州牧陶谦与阙宣共同举兵，攻取了泰山郡的华县（今山东费县东北）、费县（今山东费县西北），同时又洗劫了任城（今山东济宁）。此后，陶谦又谋杀了阙宣，收编了他的军队。秋天，曹操亲率大军进攻陶谦，接连攻下十多个城池。陶谦被逼得固守城池而不敢出城应战。
这一年，孙策接受袁术的命令，渡过长江而向南发展，数年之间，孙策就占据了江东的地盘。
汉献帝兴平元年（194年），曹操从徐州征陶谦归来。曹操的父亲曹嵩，去官以后，就回到了谯郡。董卓之乱的时候，到琅琊去避难，被陶谦杀害了。曹操发誓一定要报杀父之仇，于是向东讨伐陶谦。夏天，曹操派荀彧、程昱二人守住-城，又一次出兵征讨陶谦。曹操攻下五座城市，主力部队一直扫荡到琅琊、东海（今山东郯城县西南）。曹操率军队回来的时候经过郯县（今山东郯城县），陶谦的部将曹豹和刘备在郯东的屯兵，企图拦截曹操的军队。曹操打败了曹豹、刘备的军队，趁势攻取了襄贲（今山东苍山县南）。曹操的军队所到之处，杀害了很多无辜百姓。
汉献帝兴平元年（194年）四月，张邈和陈宫二人背叛曹操而迎立吕布主持兖州局势，一时许多郡县都积极响应。曹操的部下荀彧、程昱保住了-城和范、东阿两县，固守阵地，曹操见情势危急，于是率兵回来。吕布进攻-城，一时无法攻克，于是便向西移兵屯驻濮阳。曹操见到吕布如此用兵，他说：“吕布一天之间得到一个州的地盘，但却不能迅速向东攻取东平国（今山东东平县东）作为根据地，又不能截断亢父（今山东济宁南）、泰山（今山东泰安东）之间的道路，依靠险要之地以拦截我军，却驻兵濮阳。由此我可以看出吕布的无能！”于是曹操进兵攻吕布。吕布出兵迎战，先用骑兵进攻曹操的青州兵。青州兵被打败逃跑，曹操的兵阵溃乱，曹操见军中起火，便骑马冲火而出。不慎从马上摔了下来，火烧到左手掌。司马楼异跑过来把曹操扶上马，曹操才能够逃出。曹操并未回到营中，而在中途休息了一段时间。众将没有能见曹操归来，都十分担心恐惧。不久曹操回来了，亲自巡检营房，犒劳士兵，并命令军中工匠，尽快制造进攻工具，再次进攻吕布。曹操与吕布相持了一百多天，仍然没有分出胜负。后来遇到了蝗灾，蝗虫吃尽田中粮食，百姓没有粮食而陷入了饥荒。吕布军中粮食也吃完了，双方这才各自退去。钱。闹大饥荒之后，甚至出现了人与人相食的惨景。陶谦死后，刘备代替陶谦做了徐州牧。
汉献帝兴平二年（195年）春，曹操率兵袭击定陶。济阴太守吴资力保南城，曹军出师不捷。这时吕布的军队到了，曹操又率军击破吕布一部。夏，吕布部将薛兰、李封的军队驻守在巨野县（今山东巨野县南），曹操攻击薛兰，吕布急忙前去救援薛兰。薛兰被曹操击溃，迫使吕布退守定县。曹操杀了薛兰等人。吕布在东缗县（今山东金乡县东北）与陈宫会合，率领部众一万多人来战曹操。当时曹操兵力较弱，便设下埋伏，突出奇兵袭击吕布，结果大败吕布。吕布连夜逃往定陶，曹操乘胜追击，再战再捷，一举拿下了定陶，然后又分兵攻下各县。吕布向东逃，归附于徐州的刘备。张邈自己追随着吕布，而派弟弟张超带着家属，守卫雍丘。秋八月，曹操围攻雍丘。冬十月，汉献帝拜曹
秋九月，曹操回到了-城。吕布集合了陈宫的兵马，大约一万多人，前来攻打乘氏（今山东巨野县西南），被乘氏县人李进所打败。吕布便移军向东屯驻于山阳。袁绍派遣使者，游说曹操，想和曹操联合。曹操刚刚失去了兖州，而且军中已无军粮，于是打算与袁绍联合。程昱此时劝说曹操，叫他不要和袁绍联合。曹操听从了程昱的建议，放弃了与袁绍联合的计划。冬十月，曹操到达了东阿。
这一年，一斛谷物的价格是五十余万操为兖州牧。雍丘的兵员损耗惨重，又无救兵，十二月，终于抵挡不住曹军的进攻，城池陷落，张超自杀。曹操把张邈的三族全部杀光了。这也反映出曹操性格中嗜杀的一面。张邈曾去向袁术求救，不过中途被自己的部属所杀。兖州完全平定，曹操便领兵向东攻掠。
兴平二年（195年），长安大乱，汉献帝向东迁移，中途又遭遇李催、郭汜之乱，王师在曹阳大败，渡过黄河，汉献帝的车驾到达了安邑。
献帝建安元年（196年），春正月，曹操率领军队到达武平，袁术所置的陈相袁嗣，投降了曹操。