刘邦小时候也读过一些书，但他绝非本分的读书人。他性格豁达粗犷，待人宽厚。到青年时代，秦始皇已经统一全国，他通过考试当上了秦的泗水亭长，并与郡县小吏关系非常亲密。但他这时也成了一个酒色之徒。后来被他封为齐王的大儿子刘肥的母亲曹氏当时就是他的情妇。
尽管刘邦在生活上有失检点，但他胸怀大志。有一次，他押送夫役到首都咸阳，正碰上秦始皇出行，看到秦始皇威风凛凛地坐在仪仗护卫的车中，他便赞叹说：“唉，大丈夫就应该像这个样子！”
从咸阳回来后不久，从单父(今山东单县南)搬来的吕公设宴招待来拜贺的宾客。吕公因为和沛县的县令关系好，为躲避仇家而搬到沛县。当时萧何在沛县任主吏，他主办宴会，向来客宣布：“凡贺礼不满一千钱，都坐在堂下。”刘邦也是贺客之一，他根本没带钱，却对传达说：“我贺钱一万。”传达去告诉吕公，吕公急忙亲自下堂迎接。吕公看到刘邦后，觉得他相貌气度非凡，对他十分敬重，就拉他入席就座。酒后，吕公示意刘邦留下，提出愿意把自己的女儿嫁给他。这对刘邦来说是求之不得，因此和吕公的女儿成婚。吕公的这个女儿就是后来历史上著名的吕后。她为高祖生了一儿一女，女儿后来称鲁元公主，儿子就是惠帝。
秦王朝末年，秦始皇修骊山墓需要大批劳力，高祖受命押送刑徒到骊山。在押送的路上，刑徒们纷纷逃亡。刘邦估计到了骊山，这些刑徒差不多要跑光，到时候也免不了一死，还不如把他们放了，赚点人情合算。走到丰邑西边的大泽里的时候，刘邦喝多了酒，仗着酒就把刑徒身上的绳索解开，对他们说：“你们都逃命吧，我也从此逃亡了！”当时有十几个刑徒愿意跟着刘邦走，刘邦就连夜带着他们从大泽里逃亡。
这时，陈胜吴广的农民起义军得到了各地义军的响应，秦王朝的统治已经摇摇欲坠。得知陈胜吴广利用迷信起义，一呼而天下应以后，刘邦也开始利用迷信来给自己身上套光环了。他先后编造了自己以赤帝之子的身份斩了化为白蛇的白帝之子；秦始皇多次巡游江南的原因是“东南有天子气”；自己躲藏之地的天上有五色云彩等故事，使周围的人敬畏依附他，以至于到后来，刘邦身边汇集了周边地区的青年，被人们称为沛中豪杰。这时的刘邦，需要的仅仅是一个借口了。沛县县令为了保全自己的举动给了他这个借口。
随着陈胜吴广的农民起义军声势的逐渐浩大，沛县县令也想响应陈胜来保全自己，刘邦好友沛县主吏萧何、曹参就向县令建议说：“你是秦朝的官吏，现在想背叛秦朝，领着沛中子弟起兵，他们恐怕不会听你的。最好还是把那些逃亡在外的人召回来，能聚集几百人，这样大家就不会不听话了。”县令表示同意，他让吕后的妹夫樊哙去找刘邦。刘邦求之不得，于是就和樊哙一起回到沛城。但刘邦还没到沛城，县令又害怕刘邦进城后会杀掉自己，因此紧闭城门，并打算杀掉萧何、曹参。萧何、曹参闻讯后，急忙逃到刘邦处。刘邦进不了城，就写一封信射到城里，号召沛城父老杀掉县令，响应各路义军。城中人民早就听说了刘邦的传说，巴不得他能赶紧进城，于是很快杀了县令，开门迎接刘邦，并想推举他为县令，萧何、曹参等也都一致推让刘邦。许多父老也说：“我们早就听到了许多关于你的神奇事，你肯定要成为贵人，还是由你来领导最好。”刘邦一再推辞，最后被大家拥立为“沛公”。刘邦在县令的衙门中，设坛祭祀，并宣称自己是赤帝之子而树起红色大旗，正式宣布起兵反秦。接着，萧何、曹参和樊哙等人分头去招兵买马，沛中子弟踊跃参加，队伍很快发展到了两三千人。这时是秦二世元年的九月，刘邦已经48岁。
在刘邦起兵反后，秦末农民起义战争已经进行得如火如荼。当时反秦主力是原楚国贵族项羽、项梁所率领的江东子弟兵，其他一些六国贵族也都纷纷起兵，自立为王。
秦二世元年(前207年)十二月，陈胜被车夫庄贾所杀。次年(前208年)六月，项梁知道陈胜确实已死，就在薛县召集各部将领，立了楚怀王的孙子心为楚王。这时，秦大将章邯已经攻灭了魏国和齐国。到了七月，楚军经过休整，开始向秦国反攻。楚军连连胜利，项梁被胜利冲昏了头脑，骄傲起来，别人进谏也不听。九月，章邯得到秦关中的援兵后，乘项梁不备，突然夜袭定陶。结果楚军大败，项梁被杀。辛邯在击杀项梁后，认为楚国已不再构成威胁，遂渡河进攻赵国。赵王向楚王求救。接到赵国的求援信，楚王和众将商讨，决定分兵两路：一路以宋义为上将军，项羽为次将，范增为末将，北上救赵；一路以刘邦为将西进关中。并和诸侯约定：“先入关中者王之。”
经过连番征战，刘邦攻入武关，向咸阳逼近。秦相赵高杀死二世、派人向高祖求和，被高祖拒绝。秦王子婴即位后，诛灭赵高，并派兵在绕关抵挡刘邦。刘邦率军绕过绕关大破秦军，进抵咸阳东郊灞上(今陕西西安东)。秦王子婴被迫捧着玉玺向高祖投降，秦王朝灭亡。
十月，刘邦进入咸阳。将士们纷纷争着抢着去找皇宫的仓库，往自己的腰包里揣金银财宝，刘邦自己也被阿房宫的富丽堂皇和美貌如仙的宫女弄得眼花缭乱，有些迈不动步了，他以“关中王”自居，准备就住在宫中，好好享受一番。但在樊哙“沛公要打天下还要当富翁”的提醒下，立时醒悟，忍住了贪图享乐的念头，吩咐将士封了仓库和宫殿，带着将士仍旧回到灞上的军营里。之后，刘邦约法三章，顺利地笼络了民心。刘邦又听从谋士的建议，派兵驻守函谷关，以防止项羽率军进入关中。
项羽在救赵取得消灭秦军主力的胜利后，也率军向关中进发。来到函谷关，项羽见关门紧闭，又听说刘邦已平定关中，不由大怒，当即命英布攻破函谷关，接着率40万大军开到戏下(今陕西临潼东北戏水西岸)。这时，刘邦的左司马曹无伤暗中派人向项羽告状说：“沛公欲王关中，让子婴做相国，把秦的珍宝都据为己有。”谋士范增也劝项羽赶快除掉刘邦，于是项羽下令犒劳士兵，明天一早就向刘邦进攻。刘邦当时只有10万人，在兵力上完全处于劣势。在大难就要临头之际，刘邦却来了救星。这个救星就是项羽的叔叔项伯。项伯和刘邦的谋臣张良交往甚密，张良曾救过他的命。他听说马上就要向刘邦进攻，就连夜驰入刘邦军中，想把张良带走。张良却对他说：“沛公有大难，我作为谋臣不能一声不吭就走，要走也得把这个事情告诉他。”刘邦听了大惊，要张良赶快考虑对策。张良找到项伯说合，又说刘邦愿与项伯结为儿女亲家，项伯终于答应代为说情。项伯即连夜返回，劝告项羽说：“刘邦若不先入关，你也不可能这么顺利地到这里。人家是功臣，你要加害功臣，这是不义之举。况且，人家对财物妇女一律不取，连降王子婴也没有擅自发落，就等你前往共同处置呢！刘邦明天前来当面谢罪，你不如就此与他修好。”项羽表示同意，取消了进攻计划。
第二天一早，高祖率张良、樊哙和一百多个骑兵来到项羽的营帐鸿门。刘邦十分恭谦，见了项羽便下拜：“未知将军入关，有失远迎，今天特上门谢罪。”并开诚布公地相告：“我不过是与你相约先入关而已。除了与民约法三章外一切照常，请将军不要听小人之言，明察实情。”项羽是个粗人，本来还想要摆摆刘邦的“罪状”，但见刘邦说的句句在理上，便老老实实地说：“这都是你的部下曹无伤来说的。要不然，我也不会这样。”并摆下酒宴加以款待。宴席上明争暗斗，剑拔弩张，演出了历史上流传千古的“鸿门宴”。鸿门宴后，项羽以最高统帅的身份，立诸将为王、侯。刘邦被封为汉王，并前往封地南郑。项羽当时只给了他3万士兵，加上自愿随从的几万人，也不到10万人。为了防备其他诸侯的袭击，也为了向项羽表示不再东出争夺天下，刘邦接受张良建议，把通往汉中的栈道烧了。这样，从陈胜开始反秦到秦灭亡，长达三年的战乱暂时平息。