正当曹操的势力日益扩大的时候，刘备的势力也渐渐发展起来。刘备是涿郡（今河北省涿县）人，字玄德，据说是西汉皇帝的本家中山靖王刘胜的后代。不过传到他这一代的时候，家境已经很贫苦，只能靠和母亲一起编卖草席、麻鞋过日子。后来，靠同族人的帮助，才拜老师读了一点书。可是他不大爱读书，却喜欢结交豪杰。
东汉灵帝末年，社会发生动乱，刘备得到中山（今河北省定县）富商张世平、苏双的帮助，招募义兵，组织地主自卫武装。关羽、张飞前来应募。
张飞字翼德，是刘备的同乡。他性情暴躁，但为人直率，有什么就说什么。他有一身武艺，好见义勇为。
关羽字云长，是河东解良（今山西省解虞县）人，年轻的时候好打抱不平，常常招惹是非。有一回，他因出于义愤杀了一恶霸，背迫离家逃出潼关。关羽过了潼关，东行到涿郡，结识了张飞。恰好刘备招兵，他俩就去报名了。刘备看他们武艺高强，很有才干，对他们特别亲切。就和他们在花红叶绿的桃园里结拜为兄弟。刘备是老大，关羽是老二，张飞最小。他们对天发誓，表示要同心协力，干出一番事业。这就是历史上有名的“桃园结义”的故事。
刘、关、张桃园结义后，一边招兵买马，一边打制兵器，扩充自己的武装力量。他们三个带着招募来的士兵，因镇压黄巾起义有功，东汉政府就派刘备做安喜县（今河北省定县）县尉，主管一县的军事。
刘备刚刚上任几个月，代表郡守督察下属各县官吏的督邮就来到安喜。这位督邮大人贪赃成性。刘备没给他送礼，督邮因此拒绝见他。刘备火气大，决定辞官不干，就带上关羽、张飞，拿着县尉的大印，到督邮的住处去了。
督邮以为刘备送礼来了，很高兴地出来见他。结果看到刘备两手空空，脸色当时就变了，轻蔑地问他：“你是什么出身？”刘备毫不含糊地说：“我是汉朝宗室，中山靖王后代，因为平定黄巾有功被任为安喜县尉。”督邮大怒，说：“刘备，你敢冒称宗室，冒领战功！我这次就是受朝廷之命来查处你这种人的！”刘备更不客气，他让张飞冲上去，不由分说地揪住督邮就打。直到刘备看差不多了，才让住手。
刘备带着关羽、张飞去投奔公孙瓒。他们在公孙瓒那儿讨伐了叛乱称帝的张纯、张举，立下战功。朝廷不但免了刘备打督邮的罪，反而任命他为别部司马。后来，又任命他为平原相，关羽、张飞为别部司马。
刘备三兄弟带上赵云，一起去上任了。赵云，字子龙，常山郡真定（今河北省正定县）人。他身强体壮，武艺超群，为人正派。他和刘备哥仨情同手足。一天，他们收到陶谦的求援信。陶谦是徐州牧，他的部将张闿贪图钱财，抢走了曹操父亲的全部财宝，并杀了曹家老小。曹操恨得咬牙切齿，当即下令，三军戴孝出征，立誓要杀死陶谦。陶谦抵挡不住，便求救于刘备。于是刘备带领三千人马前去援救，逼走了曹操。
陶谦对刘备感激不尽。他认为刘备确是个人才，就给刘备四千人马，请他留下来帮助自己。刘备感到陶谦非常诚恳，而平原又没什么可留恋的，就答应了。陶谦立刘备为豫州刺史，请刘备驻扎在小沛。从此刘备就以小沛为基地，平时注意发展生产，整顿治安，操练兵马。后来，陶谦死了，刘备继任徐州牧。被曹操打败的吕布、陈宫前来投奔刘备。刘备让吕布屯兵小沛。
不久，袁术为了扩充地盘，发兵徐州。刘备安排张飞和下邳相曹豹镇守下邳，自己同关羽进军到盱眙（xūyí）迎战。袁术和刘备交战一个多月，不能取胜，就以20万斛军粮、500匹战马为交换，约请吕布袭击徐州，同灭刘备。吕布本来就是个反复无常的人，看到有利可图，就接受了袁术的条件，乘着张飞酒醉，攻占了下邳。张飞带着少数人去找刘备、关羽。
袁术也是个言而无信的人，他并不是真要给吕布军粮、战马。吕布便与刘备讲和。只不过他们互相换了一个位子，吕布占了徐州，刘备到了下邳。袁术看到吕刘讲和，对自己占领徐州不利，就故计重演，多方拉拢吕布，与其结成儿女亲家，挑拨吕刘关系。吕布听信了袁术，带兵去打刘备。
刘备已经兵损将折，敌不过吕布，就带着关羽、张飞，以及一些亲属官员，连夜逃到许都，投奔曹操，曹操热情地收留了他们。刘备住在曹操那里，心里老想着发展自己的势力，他知道曹操对他放心不下，便装出庸庸碌碌的样子，他从不关心天下大事，整天只知道浇水种菜。关羽、张飞不理解刘备为什么变成这样，十分不满。
有一天，刘备正在菜园里浇水，曹操的部将许褚来找他，说曹公有请，让他这就去。刘备不知发生了什么事，心里有些害怕，但还是硬着头皮去了。曹操拉着刘备走到后花园，坐在一个小亭里，一边吃青梅酒，一边畅谈。
曹操问道：“玄德，您周游四方，见多识广，请问，谁称得上是当代的英雄？”原来曹操是想在酒后，套刘备的实话，看他是不是也有称霸天下的野心。刘备对此早有防备，故意说：“我哪配谈英雄！”曹操说：“你不要谦虚，就说说吧。”
刘备只好说：“淮南的袁术，已经称帝，可以算作英雄吧！”曹操笑笑，说：“他呀，不过是坟中的枯骨！”刘备又说：“河北的袁绍，占领了四个州，手下谋士多，武将勇，可以算作英雄吧！”曹操又笑了笑，说：“袁绍表面厉害，胆子却很小；虽然善于谋划，关键时刻却犹豫不决。可算不上是英雄。”刘备又说：“刘表坐镇荆州，被列为‘八俊’之首，可以算作英雄吗？”曹操不屑地说：“刘表徒有虚名而已，也不算不上英雄！”刘备接着又说：“孙策血气方刚，已经成为江东领袖，是英雄吧！”曹操摇摇头说：“孙策是凭着他父亲孙坚的名望，算不得英雄。”刘备又举了一些割据一方的军阀，但曹操都不放在眼中，刘备无奈地说：“我孤陋寡闻，除了这些人，可实在不知道还有谁配称英雄了。”
曹操指指自己，又指指刘备，说：“现在天下称得上英雄的，只有您和我两人呀！”刘备心里一吓，手一松，筷子掉在地上。与此同时，骤然电闪雷鸣，下起了大雨。刘备赶紧弯腰捡起筷子，谎称：“好响的雷呀！把我吓了一大跳！”曹操见打个雷就把刘备吓成这样子，以为他是个胆小鬼，禁不住哈哈大笑起来。
刘备见曹操对自己有戒心，就想找个脱身机会，正巧曹操准备派人往徐州截堵袁术，就借口自己熟悉那儿的地形，骗得曹操放他出了许都。为了监视和牵制刘备，曹操派了许灵、路招两位将军同行。刘备大军一到徐州，正赶上袁术的军队抵达下邳。刘备指挥大军一路杀过去。袁术大败而归，不久就吐血身亡。于是刘备打发许灵、路招回去报信，实际上把他们支走，以免去监视。刘备乘胜进攻徐州。他们直抵下邳城，把驻守的车胄骗出城，并将其围杀，进而顺利地占领了徐州。
曹操听说以后十分气愤，决定马上出兵讨伐。刘备无力抵抗，只得去投靠袁绍。盘踞在北方广大地区的袁绍，经济力量和军事力量都很雄厚，是当时势力最大的军阀。可是曹操占据着中原部分地区，用皇帝的名义发号施令，实力发展也很快。两强对峙，必然要发生尖锐的冲突。