冬季十月辛巳，高祖到长乐宫，有军队二十万人。隋京师留守、刑部尚书卫文升、右翊卫将军阴世师和京兆郡丞滑仪胁持隋代王杨侑以抵抗义军。高祖派使者到京师城下，告谕他们自己愿意挽救扶助隋室，几次派使者反复申明此意，都得不到答复。各位将领坚决请求围攻京城。十一月丙辰，攻下京城。卫文升在这之前已经病死，高祖认为阴世师、滑仪等人抗拒义军，都将他们斩首。癸亥，高祖带领百官，准备好天子的车驾，立代王杨侑为皇帝，遥尊隋炀帝为太上皇，大赦天下，改年号为义宁。甲子，隋帝杨侑下诏加授高祖可借用天子的仪仗黄钺、使持节、大都督内外诸军事、大丞相，进封唐王，总揽朝政。提供武德殿作为丞相府，唐王对百官的教谕改称为令。以陇西公李建成为唐国太子；任命太宗为京兆尹，改封秦公；改封姑藏公李元吉为齐公。
十二月癸未，丞相府设置长史、司录等属官。金城盗贼首领薛举进犯扶风，任命太宗为元帅领兵攻打薛举。派赵郡公李孝恭招抚山南地区，所到之地官吏百姓无不归服。癸巳，太宗在扶风大败薛举的部队。屈突通由潼关逃往东都，刘文静等人领兵追击，在阌乡将他抓住，又俘虏了他的部下数万人。河池太守萧瑀率郡中军民投降高祖。丙午，高祖派云阳县令詹俊、武功县正李仲衮攻取巴蜀地区，攻下了它。
义宁二年春季正月戊辰，高祖任命太子李建成为抚宁大将军、东讨元帅，太宗为副元帅，领兵七万，进攻东都。二月，清河盗贼首领窦建德僭越称为长乐王。吴兴人沈法兴占据丹阳起兵。三月丙辰，隋右屯卫将军宇文化及在江都宫杀死隋太上皇杨广，立秦王李浩为皇帝，自称为大丞相。改封唐太宗为赵国公。戊辰，隋帝杨侑进封高祖为相国，让他统领百官，又加赐九锡之礼。唐国设置丞相以下官员，在长安通义里私宅立唐高祖的已故高祖父以下四代祖先的祠庙。
夏季四月辛卯，停止使用竹使符，另发给各郡银兔符。戊戌，太子李建成与太宗从东都班师回朝。五月乙巳，隋帝杨侑下诏让高祖戴皇帝用的有十二旒的冕，并立天子的旌旗，像天子那样出入戒严，禁止行人来往。王后、王女的封号，都依照旧规办理。戊午，隋帝杨侑下诏说：
上天降祸给隋国，使太上皇在江都遇到贼寇而被杀，残酷甚于赵高在望夷宫刺杀秦二世，仇恨比周幽王在骊山北被犬戎杀死还深。可悲啊我这小子，忽然铸成大错，哀伤哭泣，长叹不已，痛苦之至，内心破碎。抬头想起太上皇受到的残害，冤仇又得不到申雪，我只身孤立，不知该怎样过日子。相国唐王，应圣王兴起之期，有治邦理国之才，扶危济困，把百姓从水深火热中救出。唐王由北往南征讨，如果向东进军，西边的百姓就会抱怨为什么不先到他们那里去。使各路诸侯汇合，决战于千里之外而取得大胜。集合、统率夷狄、华夏之人，保护黎民百姓，使朕自身得到保护，这一切都有赖于唐王。唐王的道德如同造物主，功勋感动上天，万民归心，天命体现在他身上，如今仍屈居臣下之位，违背了上天的意旨。从前虞、夏时代，彼此推举，让位于贤者，如果不是有虞舜，谁能命令夏禹继位！现今天下分崩离析，天、地、人改变选择，隋朝气数已尽，朕请求给贤者让路。重新开始谋划广施恩德，不过自己已做不到，命令私人的僮仆驾车，朕应当回到原来的地方。我本是代王，到了我应被取代，上天遗弃隋，怎么就像这样啊！也许可以依靠德与天齐的圣王，来诛灭叛逆的恶人；希望得到新王朝的恩泽，让隋朝子孙受封为王侯，充任三恪之一。能为朕的祖先申冤雪耻，能保持对祖先的祭祀作孝顺的子孙，早晨知道这些愿望实现晚上就立即死去，朕即便到了泉下也不感到遗憾。现在朕遵从旧例，退位居于旧府第，众位文武官员，应改而服事唐王朝。应当按照以往的规矩，赶快奉上皇帝尊号，这样做使朕能如释重负，感到安宁，心地宽广如同能包容万物。借助真正的帝王之手，来清除凶恶的叛逆者，满朝众多的官员，应明白了解朕的这一心意。命令有关部门，凡有群臣的奏章，都不得上报朕知。
隋帝杨侑派遣使持节、兼太保、刑部尚书、光禄大夫、梁郡公萧造，以及兼太尉、司农少卿裴之隐将皇帝的印玺进献给高祖，高祖辞让。百官联名上表劝高祖即帝位，高祖没有接受。经再三上表，高祖才接受。隋帝杨侑退位居于旧府第。将大兴殿改名为太极殿。
甲子，高祖在太极殿即皇帝位，任命刑部尚书萧造兼任太尉，在南郊祭告上天，发布大赦令，改隋义宁二年为唐武德元年。官吏百姓，赐给一级爵位。义军经过的地方，免除三年徭役。撤销郡改设州，将郡太守改为州刺史。丁卯，高祖在太极殿宴请百官，按功论赏，分别赐给他们多少不等的丝织品。隋朝东都留守等官一起立隋越王杨侗为皇帝。壬申，高祖命令相国府长史裴寂等人制定唐律令。
六月甲戌，太宗李世民任尚书令，相国府长史裴寂任尚书右仆射，相国府司马刘文静任纳言，隋朝民部尚书萧瑀、相国府司录窦威都任内史令。废除隋朝的《大业律令》，颁布新的大唐律令。巳卯，预备好天子的车驾，把唐高祖的高祖父宣简公以下四代祖先的神主迎进太庙受祭。给已故高祖妃窦氏追加谥号为太穆皇后，她的陵墓称寿安陵。庚辰，立嫡长子李建成为皇太子。封太宗为秦王，齐国公李元吉为齐王。封皇族子弟蜀国公李孝基为永安王，柱国李道玄为淮阳王，长平公李叔良为长平王，郑国公李神通为永康王，安吉公李神符为襄邑王，柱国李德良为长乐王，上开府李道素为竟陵王，上柱国李博义为陇西王，李奉慈为渤海王。各州总管都加使持节的名号。癸未，高祖封隋帝杨侑为酅国公。薛举进犯泾州，高祖命令秦王李世民为西讨元帅领兵讨伐薛举。改封永康王李神通为淮安王。壬辰，加封秦王为雍州牧，其他官职不变。辛丑，内史令窦威去世。
秋季七月丙午，刑部尚书萧造任太子太保。追封已故皇子李玄霸为卫王。西突厥派使者请求归附唐朝。秦王在泾州与薛举交战，唐军战败。
八月壬午，薛举去世，他的儿子薛仁杲又僭越自称为皇帝，高祖命令秦王为元帅领兵讨伐他。丁亥，高祖发布诏令说：“隋朝的太常卿高炯、上柱国贺若弼，都坚持节操，刚正不阿，与邪恶作斗争，不屈不挠；司隶大夫薛道衡、刑部尚书宇文、左翊卫将军董纯，都心怀忠义，却被处以死刑。这些人都应加以表扬，以使他们在泉下有知能得到一些安慰。高炯应追赠上柱国、郯国公，贺若弼追赠上柱国、杞国公，让有关部门分别给他们追加谥号；薛道衡追赠上开府、临河县公，宇文追赠上开府、平昌县公，董纯赠柱国、狄道县公。”又发布诏令说：“隋右骁卫大将军李金才、左光禄大夫李敏，都出身于名门望族、有大功勋的贵族世家，他们意外地遭到屠杀，朝廷民间都认为冤枉。但李氏家族将兴盛，这是上天赐福的灵应，因暗中感悟到这种隐秘的灵应，于是便狂乱地肆意诛杀李氏族人。朕受命于天，作万民的君主，志在清除邪恶，日夜不忘申雪冤屈，表彰善人。李金才应追赠上柱国、申国公，李敏应追赠柱国、观国公。另外，前朝刑罚残酷、失当，受害者的子孙被流放的，一律让他们返回故乡。”凉州盗贼首领李轨献出他的辖地投降唐朝，高祖任命他为凉州总管，又封他为凉王。
九月乙巳，高祖亲自查审囚徒的罪状，看有没有处治不当的情况；改银兔符为铜鱼符。辛未，给隋太上皇杨广追加炀帝的谥号。宇文化及到了魏州，毒死隋秦王杨浩，僭越称天子，定国号为许。
冬季十月壬申初一，出现日蚀。李密带领部众前来投降唐朝。高祖封自己的堂弟襄武公李琛为襄武王，黄台公李瑗为庐江王。癸已，高祖下令施行傅仁均制定的《戊寅历》。
十一月巳酉，由于京师粮食昂贵，高祖下令四方进入潼关的人，官府各为他们的车马牛驴配给收来的税米，供他们自己喂养牲口之用。秦王李世民在浅水原把薛仁杲打得大败，薛仁杲投降，陇右平定。乙巳，凉王李轨在凉州越分自称为天子。高祖下诏颁布五十三条法令，借以简省法令，减轻刑罚。
十二月壬申，加封秦王李世民为太尉、陕东道大行台。丁丑，高祖封上柱国李孝常为义安王。庚子，李密在桃林造反，行军总管盛彦师领兵追击讨伐，将李密杀死。
武德二年春季正月乙卯，首次下令规定文官如遇父母去世，听任他们离职守丧。黄门侍郎陈叔达兼任纳言。
二月丙戌，高祖下诏规定全国各地与天子同宗但是未担任官职的人，一律免除徭役。每州设置宗师一人，总管本州这些同宗的人。
闰二月辛丑，刘武周进犯唐朝的并州。己酉，李密的旧将徐世勣率黎阳的军民及河南十郡归降唐朝，高祖任命他为黎州总管，封曹国公，赐姓李氏。庚戌，高祖穿平民的衣服巡视京城，考察民俗风情，当日回宫。甲寅，盗贼首领朱粲杀死唐朝的使臣散骑常侍段确，逃往洛阳。
夏季四月乙巳，王世充篡夺隋越王杨侗的皇位，僭越称为天子，定国号为郑。辛亥，李轨的伪尚书安兴贵逮捕李轨，投降唐朝，河西平定。突厥始毕可汗去世。
五月己卯，酅国公杨侑去世，高祖追尊他为隋帝，定谥号为恭。
六月戊戌，命令国子学建立周公、孔子庙，四季都举行祭祀，并在全国广泛找寻周公、孔子的后代。癸亥，尚书右仆射裴寂担任晋州道行军总管，讨伐刘武周。
秋季七月壬申，设置十二军，让关内各州府分别隶属于十二军。王世充派他的将领罗士信领兵进犯唐朝谷州，罗士信率领他的部下归附唐朝。西突厥叶护可汗和高昌国都派使者来朝见高祖，进献贡品。
九月辛未，盗贼首领李子通占据江都，越分自称为天子，定国号为吴。沈法兴占据毗陵，越分自称为梁王。丁丑，和州盗贼首领杜伏威派使者前来投降唐朝，高祖任命杜伏威为和州总管、东南道行台尚书令，并封他为楚王。裴寂与刘武周的将领宋金刚在介州交战，唐军战败，右武卫大将军姜宝谊战死。唐并州总管、齐王李元吉担心刘武周进逼，逃往京师长安，并州于是沦陷。乙未，京师发生地震。
冬季十月己亥，高祖封幽州总管罗艺为燕郡王，赐姓李氏。任命黄门侍郎杨恭仁为纳言。杀死民部尚书、鲁国公刘文静。乙卯，秦王李世民讨伐刘武周，率兵驻扎于蒲州，与唐各军声势相通，互为援助。壬子，刘武周进兵围攻晋州。甲子，高祖亲自祭祀华山。
十一月丙子，窦建德攻陷黎阳，完全占有太行山以东地区。唐淮安王李神通、左武候大将军李世勣都成为窦建德的俘虏。
十二月丙申，唐永安王李孝基、工部尚书独孤怀恩、陕州总管于筠遭到刘武周的将领宋金刚的突然袭击，全部被俘。甲辰，高祖到华山打猎。壬子，大风将树连根拔起。
武德三年春季正月辛巳，高祖到达蒲州，下令祭祀舜庙。癸已，从蒲州回到长安。甲午，李世勣从窦建德那里自己逃跑返回唐朝。窦建德僭越称为夏王。
二月丁酉，京师西南地里发出像山崩一样的声音。庚子，高祖到华阴。工部尚书独孤怀恩企图谋划造反，被处死。
三月癸酉，西突厥叶护可汗、高昌国王麴伯雅派使者入唐朝拜见天子，进献贡物。突厥向唐进献条支大鸟。己卯，将纳言改为侍中，内史令改为中书令，给事郎改为给事中。甲戌，内史侍郎封德彝兼任中书令。高祖封盗贼首领刘孝真为彭城王，赐姓李氏。
夏季四月壬寅，高祖自华阴回到长安。唐在益州设立行台尚书省。甲寅，加封秦王李世民为益州道行台尚书令。秦王李世民在介州将宋金刚击败，宋金刚与刘武周一起逃往突厥，于是平定了并州。刘武周手下的总管尉迟敬德、寻相献出介州投降唐朝。
六月壬辰，高祖改封楚王杜伏威为吴王，赐姓李氏，并加授他为东南道行台尚书令。丙午，高祖亲自审查囚徒的罪状，看是否有处治不当的情况。高祖封皇子李元景为赵王，李元昌为鲁王，李元亨为酆王；封皇孙李承宗为太原王，李承道为安陆王，李承乾为恒山王，李恪为长沙王，李泰为宜都王。
秋季七月壬戌，高祖命秦王李世民统率各路军队讨伐王世充。派皇太子李建成镇守蒲州，以防备突厥的入侵。丙申，突厥在白道杀死刘武周。
冬季十月庚子，怀戎盗贼首领高开道派使者前来投降，高祖任命高开道为蔚州总管，并封他为北平郡王，赐姓李氏。
武德四年春季正月丁卯，窦建德的行台尚书令胡大恩率领大安镇的士兵和百姓投降唐朝，高祖封他为定襄郡王，赐姓李氏。辛巳，高祖命令皇太子率兵讨伐稽胡。
三月，改封宜都王李泰为卫王。窦建德领兵前来援救王世充，攻陷唐朝的管州。
夏季四月甲寅，高祖封皇子李元方为周王，李元礼为郑王，李元嘉为宋王，李元则为荆王，李元茂为越王。首次设置都护府官员。
五月己未，秦王李世民在武牢关大败窦建德的部队，活捉了窦建德。河北地区全部平定。丙寅，王世充献东都城投降唐朝，河南地区也宣告平定。
秋季七月甲子，秦王李世民得胜回朝，到太庙献祭。丁卯，高祖发布大赦令。朝廷下令废除五铢钱，发行开元通宝钱币。在长安将窦建德斩首；王世充被流放蜀地，还未启程，被他的仇人杀死。甲戌，窦建德的余党刘黑闼占据漳南造反。唐在洺州设立山东道行台尚书省。
八月，兖州总管徐圆朗起兵反叛朝廷，以响应刘黑闼，并越分自称为鲁王。
冬季十月己丑，高祖加封秦王李世民为天策上将，地位在各王公之上，又命他兼任司徒、陕东道大行台尚书令；任命齐王李元吉为司空。乙巳，赵郡王李孝恭平定荆州，俘获萧铣。
十一月甲申，在洺州设置大行台，废除洺州都督府。庚寅，焚毁东都紫微宫乾阳殿。会稽盗贼首领李子通献出他所辖之地投降唐朝。
十二月丁卯，高祖命令秦王李世民及齐王李元吉讨伐刘黑闼。壬申，改封宋王李元嘉为徐王。
武德五年春正月丙申，刘黑闼占据洺州，越分自称为汉东王。
三月丁未，秦王在沼水边击败刘黑闼，全部收复被刘黑闼攻陷的州县，刘黑闼逃往突厥。蔚州总管、北平王高开道起兵反叛朝廷，进犯易州。
夏季四月庚戌，秦王回京师长安，高祖到长乐宫迎接慰劳秦王。壬申，代州总管、定襄郡王李大恩被突厥打败，战死。
六月，刘黑闼领突厥兵进犯太行山以东地区。朝廷设立谏议大夫的官职。
秋季七月丁亥，吴王杜伏威前来朝见高祖。隋朝汉阳太守冯盎献南越之地投降唐朝，岭南地区因而全部平定。
八月辛亥，在沼、荆、并、幽、交五州设立大总管府。改封恒山王李承乾为中山王。在扬州改葬隋炀帝。丙辰，突厥颉利可汗进犯雁门。己未，又进犯朔州。高祖派皇太子李建成和秦王李世民讨伐突厥，取得胜利。
冬季十月癸酉，高祖派齐王李元吉到洺州攻打刘黑闼。当时太行山以东的州县多被刘黑闼控制，到处有人杀死州县长官来响应刘黑闼。行军总管、淮阳王李道玄在下博与刘黑闼交战，李道玄兵败被杀。
十一月甲申，高祖命令皇太子李建成率兵讨伐刘黑闼。丙申，高祖到宜州，检阅将士。