黄巾起义失败后，任骑都尉的曹操因镇压黄巾军有功，被封为济南相（相当于济南的郡守），于是曹操到济南上任去了。董卓进洛阳的时候，曹操正担任洛阳典军校尉一职。董卓想拉曹操入伙，曹操未从，随后改换衣服，更换姓名，带着几名随从，骑着快马，从洛阳跑了出来。
曹操离开洛阳后，没日没夜地跑了500多里，一直跑到了陈留。在陈留曹操招募了5000名义兵，开始有了自己的一支队伍。
公元190年，曹操带兵参加了以袁绍为盟主的关东军，讨伐董卓。
此时，青州的黄巾军有了很大的发展。他们杀死了兖州刺史刘岱。可是黄巾军没有把兖州作为自己的根据地。刘岱死后，兖州就群龙无首了。消息传到濮阳，东郡太守曹操便派出谋士陈宫去说服兖州官员。这样，曹操不费一兵一卒，轻易地当上了兖州牧。
曹操深知，若想称霸四方，最重要的是有一支属于自己的强大的军事队伍，于是，曹操以军事进攻为主，以诱降为辅，使青州黄巾军放下武器投降了。曹操从这支农民军中挑选出青壮年30万人，称为“青州军”。从此，青州兵就成为了曹军的骨干。
从东郡太守到兖州牧，从将多兵少到收编了30万青州兵，曹操已成为一支独立的势力，而且也渐渐敢于和袁绍较量了。公元196年，曹操把逃难洛阳的汉献帝迎到许城（今河南许昌）。于是，许城成了东汉临时的都城，称为许都。
曹操在许都给汉献帝建立了宫殿，让献帝上朝理政。曹操自封为大将军，开始用汉献帝的名义向各地州郡豪强发号施令。曹操的父亲曹嵩本来姓夏侯，叫夏侯嵩，后来过继给大宦官、中常侍曹腾做养子，才改姓曹。