李渊攻取长安的时候，中原一带王世充率领的洛阳隋军和李密为首的瓦岗农民军正在进行激烈的大战。武德元年（公元618年）九月，王世充率领的隋军镇压了瓦岗农民军，李密投降唐朝，后李密又欲逃出潼关，东山再起，被唐军所杀。王世充取得胜利，据守洛阳，虽然他毫无向四周发展的打算，但洛阳毕竟是隋朝的东都，在政治上有一定影响。同时，它地处中原，位于运河中心，唐军要东进统一全国，洛阳首当其冲。因此，唐军攻取洛阳，是势在必行的。
隋炀帝取得统治权力以后，常住洛阳，洛阳逐步成了全国的政治中心。大业十二年（公元616年）七月，隋炀帝最后一次离开洛阳，到了江都。由于农民起义军遍地而起，他无法再回到洛阳，从此以后，洛阳就成为隋军残余势力的据点。
义宁元年（公元617年）初，瓦岗军兵临洛阳城下，留守洛阳的越王侗向隋炀帝告急。隋炀帝于这年五月、七月两次向洛阳增派援军。王世充就是各路援军的首领。
王世充是西域胡人，隋文帝时以军功拜仪同，授兵部员外郎。隋炀帝即位后，他对隋炀帝那种顺我者存，逆我者亡的唯我独尊作风，深有体会。于是，他对隋炀帝奴颜婢膝，唯命是从，从而做了江都郡丞。王世充到了洛阳以后，虽然多次和瓦岗军作战，但互有胜负，始终没有改变洛阳隋军所处的困境。
隋炀帝被杀以后，李渊于长安做了皇帝。越王侗虽然也在洛阳做了皇帝，但实际大权却掌握在王世充手中。武德元年（公元618年）九月，瓦岗军与宇文化及大战结束，瓦岗军虽然取得胜利，但“其劲卒良马多死，士卒疲病。”王世充乘机打败瓦岗军，加强了自己在洛阳隋军中的地位。武德二年（公元619年）四月，他又强迫越王侗让位，自己做了皇帝，建国号为郑。从此，王世充就成为洛阳名副其实的最高统治者。
王世充做皇帝的前后，正是刘武周在今山西一带对唐威胁最大的时候，唐高祖不得不把主要力量用去对付刘武周。唐军无力东进，河北的窦建德也无南取洛阳之意，于是王世充得以暂时苟延残喘下去。
王世充刚愎自用，独断专行，在洛阳统治集团中日益孤立，连他身边的人也嫌他说话啰嗦，语多而无要领。因此，他的各级官吏多有乘机离去者。例如，罗士信、席辩、杨虔安、李君义等，相继背离王世充，投降唐军；刘黑闼投降窦建德。还有其所属的州县官，相继背郑者，也为数不少。这些都说明王世充统治集团面临着分崩离析的危机。
武德三年（公元620年）六月，唐高祖已经平定了刘武周，解除了长安的危机。于是，唐高祖准备集中力量对付王世充了。七月，李世民就率军出发，东进洛阳。
本来，义宁元年（公元617年）十一月，李渊攻克长安，第二年正月，就派李建成、李世民率军十多万人，兵向东都，只是由于当时关中尚不巩固，所以才未强取洛阳。但在撤军之时，还在新安（今河南省新安县）、宜阳（今河南省宜阳县西）一带留下驻军，准备随时再来。十月，李密降唐以后，李渊为了控制原来瓦岗军的地盘，又派淮安王李神通为山东道安抚大使，命山东诸军并授节度；以黄门侍郎崔民干为副，开始向今山东、河北和河南北部一带地方发展势力。当时，这一带地方，除了有些零散的小股起义军外，主要的是河北的窦建德起义军。同时，在魏县（今河北省大名西）还有以宇文化及为首的隋朝残余势力。
宇文化及缢杀了隋炀帝，自江都北返以后，又受到瓦岗军的沉重打击。最后盘据魏县，鸩杀了秦王浩，自己做了皇帝，国号许，妄图苟延残喘下去。
武德二年（公元619年）正月，李神通率唐军进攻魏县，宇文化及战败，东走聊城（今山东省聊城县东北），李神通又进围聊城。宇文化及军粮困难，向李神通请降，李神通为了攻取聊城，“以示国威”，同时欲以胜利物资奖赏将士，所以，他拒不接受。安抚副使崔民干和他的意见不合，他就把崔民干囚禁起来。当唐军强攻聊城，将要取胜时，李神通又怕别人抢夺功劳，中途下令收兵。正当此时，窦建德率领的河北起义军赶到聊城。窦建德攻克聊城，擒杀宇文化及，取得了重大的胜利。李神通先退保相州（今河南省安阳市），后又到黎阳（今河南省浚县），与李世勣合兵一处。十一月，窦建德攻克黎阳，李神通、唐高祖的妹妹同安公主、李世勣的父亲李盖以及魏征等人全部被俘，李世勣投降。唐朝利用李密失败后的机会在山东、河北一带发展起来的力量，基本上都损失殆尽了。
秦王李世民平定刘武周以后，于武德三年（公元620年）五月回到长安。七月，唐高祖又命他率军进攻王世充。唐军到达慈间（今河南省洛阳市西），王世充率军三万与之交战。经过激战，王世充退入洛阳城内。李世民命行军总管史万宝由宜阳进据龙门（今河南省洛阳市南），命将军刘德威围攻河内（今河南省沁阳县），命怀州总管黄君汉进攻回洛城（今河南省洛阳市东北），命王君廓至洛口（在今河南省巩县），断绝王世充的粮道，主力大军驻扎于洛阳城北的邙山，对洛阳形成了包围的形势。
在剑拔弩张的形势下，王世充还不理解唐军为统一全国而东来的意图。他在阵前质问李世民说：“隋室倾覆，唐帝关中，郑帝河南，世充未尝西侵，王忽举兵东来，何也？”宇文士及代替李世民回答道：“四海皆仰皇风，唯公独阻声教，为此而来！”王世充又乞求似地说：“相与息兵讲好，不亦善乎！”宇文士及干脆拒绝说：“奉诏取东都，不令讲好也。”这里清楚的说明，王世充只打算割据洛阳一地，唐高祖则要统一全中国。否则，他为什么下诏“不令讲好”呢？这种不可调和的矛盾，决定唐军必然要攻取洛阳，决无中途而废的可能。
唐军与王世充相持于洛阳时，河北的窦建德起义军是一支非常强大的力量。唐和王世充都曾派人去和窦建德联络。窦建德一面放回同安公主，表示愿和唐军友好，同时请求唐罢围洛阳之兵；一面又向王世充表示愿意派兵相助。
窦建德是隋清河郡漳南县（今山东省平原县西旧恩县）人，其家世代都是农民。在和乡亲们的交往中，他能够体谅穷苦人家的痛苦，乐于帮助别人，所以在当地群众中的威信很高。
大业七年（公元611年），隋朝政府征发农民进攻高丽，窦建德因为勇敢被选为二百人长，与窦建德同县的孙安祖也被选为征士。由于孙安祖家遭水灾，妻子饿死，不愿前往，从而遭到县令的怒笞。孙安祖刺杀了县令，去找窦建德。窦建德说：“今水潦为灾，黎庶穷困，而主上不恤，亲驾临辽，加以往岁西征，疮疫未复，百姓疲弊，累年之役，行者不归，今重发兵，易可摇动。丈夫不死，当立大功，岂可为逃亡之虏也。我知高鸡泊中广大数百里，莞蒲阻深，可以逃难，承间而出虏掠，足以自资。既得聚人，且观时变，必有大功于天下矣。”非常明显，窦建德给孙安祖指明了出路，只有聚众对抗政府的控制，才能生存；否则，就是“逃亡之虏”。孙安祖按照窦建德的意见，带领着窦建德给他招募的几百人，到高鸡泊中正式举行起义了。
当时，农民起义的熊熊烈火，遍地燃烧，仅在清河郡内，除了孙安祖的几百人以外，还有张金称的一万多人，高士达的一千多人。隋朝的地方官吏到处搜捕起义群众，窦建德也是他们搜捕的对象。由于郡县官吏惑疑窦建德支持起义军，于是捕杀了窦建德全家。窦建德忍无可忍，只得聚集了二百多人，参加了高士达的起义军。从此，窦建德就走上了农民起义的征途。
窦建德参加起义军后，屡立战功，逐步由一个小头目成为一支大规模起义军的领袖。
窦建德第一次显示其作战才能是打败隋朝涿郡通守郭绚。
大业十二年（公元616年），在农民起义军的沉重打击下，隋“诸郡无复完者，唯涿郡独全”。涿郡通守郭绚因此而受到重视。隋炀帝派他带领一万多人进攻高士达。高士达自感才略不及窦建德，遂把窦建德由司兵晋升为军司马，主要负责指挥作战。窦建德率7000精兵，假称投降，麻痹郭绚。待郭绚松懈以后，窦建德突然袭击，大败隋军，杀其数千人，得马千匹，郭绚带数十骑逃走，又被窦建德追上斩首，致使隋军闻风丧胆，“人吏哭之，数月不息。”经过这次战役，窦建德的威望大大提高了。
与此同时，隋还派太仆卿杨义臣率军一万多人进攻张金称。张金称遭到失败，这支起义军的群众都转移到窦建德那里去了。暂时的胜利，使杨义臣骄横得意，欲乘胜进攻高鸡泊。窦建德认为杨义臣暂居优势，应该避免决战，待相持一段时间，杨义臣疲惫的时候，再发动进攻，必然胜利。但高士达急于求胜，不采纳窦建德的意见，自己亲率主力迎击杨义臣，结果兵败被杀，给起义军造成重大损失。面临这次失败，窦建德聚集余众，掩埋了战友们的尸体，又为高士达发丧；重整旗鼓，自称将军，继续领导起义军。从此，窦建德就成为这一支起义军的领袖了。
窦建德第二次重要的战功是大败隋涿郡留守薛世雄。薛世雄是很受隋炀帝赏识的将领，隋炀帝三次进攻高丽他都参加了，进攻高丽失败后，他当了涿郡留守。义宁元年（公元617年），由于瓦岗军逼近东都，隋炀帝命薛世雄率隋军三万人南下，镇压瓦岗起义军，以解东都之围；并命令他随时镇压沿途碰到的起义军。这时，窦建德刚于河间郡乐寿县（今河北省献县）称长乐王，他所率领的河北起义军已扩大到十余万人。薛世雄从涿郡南下，窦建德首当其冲，这就决定窦建德和薛世雄之间的大战不可避免。
薛世雄兵行至河间（今河北省河间县）七里井，窦建德用声东击西的办法使薛世雄误认为窦建德要逃跑，从而麻痹大意起来。窦建德认为时机已到，亲率精兵一千人，向隋军猛烈突击，恰遇大雾之际，隋军毫无准备，不辨敌我，“自相踏藉，死者万余”。薛世雄与左右数十骑仓惶逃入河间城内，自感没有完成隋炀帝所赋予的使命，羞愧万分，忧郁成疾，回到涿郡，就怏怏而死了。这次胜利，窦建德消灭了隋朝反动统治者在北方的一支主力军，加速了隋炀帝反动政权的灭亡，大大壮大了农民起义军的声威。
窦建德再立战功，是消灭宇文化及为首的隋朝残余势力。
宇文化及是隋左翊卫大将军宇文述的儿子，幼年曾被称为“轻薄公子”，无赖之徒。由于得到隋炀帝的宠信，官至右屯卫将军。他随隋炀帝到江都后，农民起义的烽火已遍地燃烧，隋炀帝已无法再回长安。跟随隋炀帝的“从驾骁果”（卫队）大都是关中人，由于江都粮食发生恐慌，他们又久离家乡，眼看隋炀帝无意再回长安，于是纷纷散去，打算北返。在此形势下，宇文化及一伙发动政变，缢杀了隋炀帝，另立隋炀帝的侄子秦王浩为傀儡皇帝，实际大权操在宇文化及手中。
宇文化及率领十余万隋军北返的时候，瓦岗军已经占领洛阳以东大部地区。瓦岗军为了避免腹背受敌，越王侗也正想利用瓦岗军去消灭宇文化及，于是，瓦岗军暂时和东都的敌人妥协，主要打击宇文化及。宇文化及遭到沉重打击以后，北走魏县（今河北省大名县西南），鸩杀了傀儡皇帝杨浩，自己做了皇帝，国号许。武德二年（公元619年）二月，窦建德进攻魏县，宇文化及遭到失败，退往聊城（今山东省聊城县西北），窦建德又跟踪而至，四面围攻。破城之后，活捉了宇文化及与其同伙。这支跟随隋炀帝已久的反动武装，到这时候就被窦建德彻底消灭了。自此以后，隋朝的残余势力主要的就只有洛阳的王世充了。
本来，唐军进攻洛阳，是地主阶级两大集团争夺全国统治权力的斗争。窦建德应该积极的扩充力量，壮大自己，乘机统一全国；但他却只是消极地认为唐破郑后，必然威胁自己，从而采取了援郑拒唐的对策，以致与王世充同归于尽。
当时，唐高祖要统一全国是不可动摇的方针。所以，唐军首先严词拒绝王世充“息兵讲好”的请求，接着，又拒绝窦建德“退军潼关，返郑侵地，复修前好”的要求，同时又威胁窦建德说：“赵、魏之地，久为我有，为足下所侵夺”，又率军增援王世充“良非上策”，望你择善而从，否则，“恐虽悔难追”。显而易见，唐军与王世充的战争似箭在弦上；对窦建德软硬兼施，不准他增援王世充。
武德四年（公元621年）二月，李世民、王世充都亲自出马，在洛阳城外进行了一次激烈大战，结果是唐军胜利，俘斩王世充军七八千人。唐军又进围宫城，“城中守御甚严，大炮飞石重五十斤，掷二百步，八弓弩箭如车辐，镞如巨斧，射五百步。世民四面攻之，昼夜不息，旬余不克。”王世充军虽然危险万分，但唐军也“疲弊思归”。针对这种情况，李世民毫不动摇，下令军中曰：“洛阳未破，师必不还，敢言班师者斩！”唐军继续攻城，王世充只有等待窦建德来援了。
三月，窦建德率军十余万，号称三十万，增援王世充。窦建德进军至成皋（即虎牢，在今河南省荥阳西旧汜水县）的东原，通知王世充，希望能够东西夹击唐军。
面临腹背受敌的威胁，李世民召集将佐，商讨了对策。在商讨中，多数人认为：唐“兵疲老，世充凭守坚城，未易猝拔，建德席胜而来，锋锐气胜”，唐军“腹背受敌，非完策也，不若退保新安，以承其弊”。记室薛收说：“世充保据东都，府库充实，所将之兵，皆江、淮精锐，即日之患，但乏粮食耳。以是之故，为我所持，求战不得，守则难久。建德亲帅大众，远来赴援，亦当极其精锐。纵之至此，两寇合从，转河北之粟以馈洛阳，则战争方始，偃兵无日，混一之期，殊未有涯也。”鉴于这种情况，他建议：分兵一部监视洛阳王世充的动静，不与决战；另由李世民亲率精锐部队，阻击窦建德。李世民完全接受了这种意见。同时，还进一步分析说：“世充兵摧食尽，上下离心，不烦力攻，可以坐克。建德新破（孟）海公，将骄卒惰，吾据武牢，扼其咽喉。”否则，窦建德进入武牢，和王世充会合一起，力量肯定强大，必然难以对付。于是，李世民下定决心，使屈突通等辅佐李元吉围困洛阳，自己亲率精锐部队东赴武牢。经过几次交锋，李世民都取得了胜利。
五月初二这一天，窦建德穷其全力发动进攻，北距黄河，西薄汜水，南属鹊山，绵亘二十里（即今河南省荥阳县西旧汜水县至黄河沿汜水一带），鼓行西进。李世民采用了以逸待劳的战术，坚守不出，自早至午，窦建德军饥饿疲惫，正争饮水时，唐军突然出击，窦建德措手不及，战败受伤，退至牛口渚（今河南省荥阳县西旧汜水县东北），被唐军所俘。窦建德失败，王世充所属的偃师（今河南省偃师县）、巩县（今河南省巩县）等地官吏相继投降唐军。王世充看到大势已去，也只得举城投降了。
从此以后，中原、河北一带，基本上为唐所统一了。
在镇压河北起义军和攻取洛阳的这次战役中，一方面，显示了农民起义领袖窦建德缺乏政治远见，不能利用地主阶级内部的矛盾发展力量，壮大自己；反而是参与地主阶级两大集团的火并，葬送了自己。另一方面，也显示了地主阶级的政治家、军事家李世民勇猛善战、机智果断、以少胜多的杰出才能。在参与战争的三支力量中，只有唐军是统一全国的力量，唐高祖和李世民，野心勃勃，抓紧一切机会发展力量，扩大地盘，逐步削弱别人，壮大自己。这次战争的胜利，是他们统一全国的重要一步。反之，窦建德、王世充都没有统一全国的打算，也无统一全国的措施和行动，更加缺乏指挥作战的军事才能，所以，他们的失败并不是偶然的。