三省的最高长官都是宰相，但由于尚书省主要负责执行政令，制订政策的“机要之司”遂渐专之于中书、门下二省。二省长官有限，议政时人数少，为了增加议政人员以求集思广益，李世民于贞观元年即令御史大夫杜淹参预朝政。以“参预朝政”充任实质宰相，自此开始。唐朝宰相没有固定的名称，也没有员额的限制，除三省最高长官是正式宰相外，其他官员如果加授“参预朝政”、“参知机务”、“参议得失”、“平章政事”、“同知政事”或“同中书门下三品”之类，便成为了实质宰相。
隋末天下大乱，英雄豪杰蜂拥而起，据地拥兵，各自称霸一方。唐朝建立后，相继归附。李渊给他们分置州县，施以荣禄，由此州县的数目超过隋朝两倍以上。官吏增加，财政紧张。隋朝内官二千五百八十一员，唐初有增无减，房玄龄遵旨削减至六百四十员。合并州县以后，州县的辖区都有不同程度的扩大，节省了财政开支，减轻了百姓的负担。依照山川形势，重新设置监察区，把全国划分成十道：关内道、河南道、河东道、河北道、山南道、陇右道、淮南道、江南道、剑南道和岭南道。朝廷发（委派）诸道简点使四出巡察。后来又遣观察使巡视天下，观风俗之得失，察政刑之苛弊。以后还不断任命诸道黜陟大使，及巡察使、按察使、巡抚使等，考察地方官的善恶，根据其政绩好坏进行奖罚以至升降任免。
唐初士大夫饱经离乱之苦，都不想出山做官，形成了从朝廷到州县发生文官缺乏的现象。自贞观元年开始，朝廷便推行选举，即通过科举考试，不断选取才学之士。李世民不拘一格，广开才路，把求贤致治放在首要位置。房玄龄通晓政务，操守方正，昼夜操劳，惟恐偶有差池。他待人处事，宽厚平正，听到别人的长处，如同自己所有，从不求全责备，也不以己之长去要求别人。尚书省的制度规模，均系他和杜如晦制订，成为唐代定制。李世民跟房玄龄商议大事，他一定说：“非杜如晦不能敲定。”等到杜如晦来了，总是采用房玄龄的方略。房玄龄善于谋划，杜如晦长于决断，二人密切合作，忠心辅主，唐代的贤相，首推房、杜。李世民求贤若渴，对房玄龄和杜如晦说：
“你们身为仆射，应当广求天下贤才，因才授官是宰相的重要职责。”
“陛下圣谕：‘致安之本，惟在得人。’我们已铭刻在心。”
“近来听说你们受理辞讼案件，目不暇接，哪里有时间帮助朕物色人才！”
李世民亲书手令，明确规定：“尚书省琐细事务，归尚书左右丞料理。遇到必须奏请的大事，才由仆射亲自处理。”
从此，房玄龄和杜如晦，以及朝廷上下，都把发现、培养和遴选人才当做一项重要任务，提拔和选用了许多德才兼备的官吏。历史上，朝廷从官中选官，并不罕见，但是把网罗人才转向民间，则为数不多。求贤心切的李世民慧眼识英才，又从布衣中识别、超擢了一代奇士马周。
马周，号宾王，清河茌平人，少年孤贫好学，博闻强记，思维敏捷，却怀才不遇。莫名的苦恼在心中萌生，他不禁仰天长嘘，醉酒当歌，放浪形骸，官府因此不录名状向朝廷荐举。郁郁不得志的马周，离开故土，游于长安，落脚在新丰市。众人把他当做一个落魄文人，并不看重。他自觉无聊，蓬头垢面，身着对襟襦衫，敞开衣襟，不用纽带，下摆束于裙内。窄窄的衣袖长过手腕，走路一甩一甩的。沽酒饮醉了，从市井回到住处，用青田石刻出西汉太史令司马迁的碑文，供在案桌上，边磕头边哭道：
“假如一帆风顺，你的《史记》会写成个什么样子？李陵投降匈奴，与你何干，你为什么要站出来说话？以致惨遭腐刑，落下个终身残废。我马周生逢其时，却不遇其人。如今已过而立之年，仍然漂泊无依，可怜流落街头，我满腹经纶，一腔热血，却无法报效明主。”
他说一回，哭一回，再说一回，再哭一回，音调悲怆，泪水像山中的溪流，汩汩地在那清癯的脸面上流淌。
中郎将常何从门前经过，见屋檐下挤挤擦擦围着一大帮人，不知发生了什么事，即命随从前去打探。随从回来禀报说：
“有一个什么姓马的才子，喝醉了酒，在哭司马迁。”
“司马迁是什么人？”常何翘起又乱又长的连鬓胡子。
“汉朝的大史学家、文学家，被汉武帝割了卵子，写出了一本《史记》。”
“成了半拉子废人，还坚持把书写完。佩服，佩服！”
“文人都是这么个味道，并不稀奇。”
“唔，姓马的哭司马迁干吗？他们之间有什么牵连？”
“我不知道。”
“去把他叫来，让我直接问问他。”
随从去了后返回来说：“他酒还没醒，不肯来。”
“备轿，”常何吩咐道，“给我把他抬进府里，我倒要见识见识这位奇士。”
没料到常何和马周一见如故，都有相见恨晚之感。马周被常何留了下来，待为上宾，一应翰墨之事，尽出其手。夏季关中大旱，李世民命文武百官畅言得失。常何一介武夫，没有学识，不知道说什么，如何说。马周便代他撰写了二十余项建言，递呈御览。李世民非常诧异，细问常何。常何如实奏对道：
“臣没有文翰本事，是家客马周代我起草的。”
“他平时怎么样？”李世民感兴趣地问。
“此人看似疏慢，不拘小节，其实心里很细，一丝不苟，有条不紊，有板有眼。”
“好一个奇才，幸亏被你留住了。”
李世民立刻传旨召见马周，马周迟迟未到，又接连派人前往催促。原来马周闲着无事，甚觉苦闷，袖了些杖头，出门游览汉长安城去了。汉高祖五年，刘邦将秦朝的兴乐宫重加修饰并改名长乐宫，由栎阳迁都于此。汉高祖七年建成未央宫，惠帝元年开始修筑长安城墙。太初元年又兴建了北宫、明光宫和建章宫，并在城西修了上林苑，开凿了昆明池。历经九十多年，宫城规模始告齐备。马周由阊阖门步入建章宫，从地面复道踏上建章宫与未央宫之间架设的飞阁，往来走了一回。来到太液池畔，坐在柳荫下独酌畅饮。多饮了几杯，兴头上来了，用头发蘸着池水，在青石板上龙飞凤舞划起大字来。
常何的管家带着内侍好不容易找到他。回到常何寓中，梳洗并更换了鹑衣破靴，上殿见驾。李世民问及那二十余项建议。马周沉着对答，亢词质辩，一一剖析，陈述得头头是道，而且切实可行。李世民如获至宝般的喜悦，脸上没有一条皱纹不溢着笑意，当即安排他在门下省供职。
马周有了用武之地，仿佛换了一个人，每个毛细孔里都注人了活力。腰板伸直了，身姿挺拔起来，意气风发，举止洒脱，风流倜傥。漆黑的眉毛向两旁竖起，细细长长的眼睛敏锐而深沉，而且像分了工似的，一只豪放豁达，一只闪耀着智慧的光芒。他刻苦耐劳，废寝忘食，办事又耐烦又干练，不久升任监察御史。李世民高兴常何有眼力，能发掘人才，赏赐绢帛三百匹。
贞观三年四月，太上皇李渊迁居弘义宫，更名大安宫。李世民搬进太极宫，开始在正衙太极殿听政。
历经三年多时间的整饬，励精图治，唐朝国力增强，大体做好了与突厥一决雌雄的准备。这时候，双方的力量发生了逆转，突厥由优势趋向劣势，唐朝则由劣势转向优势。八月，代州都督张公谨上疏奏称，可以出兵进攻突厥。李世民喜出望外，立刻调兵遣将，整顿军马，筹备军需粮草，决计把握住有利时机，转入战略反攻，对突厥实施毁灭性的打击。