随着地方人心的渐趋稳定，新的问题也摆在了李世民的面前——应该着手对朝政大员重新作出安排了。
此时此刻，三股力量都在审慎揣测着李世民可能会作出的举动。原秦王府旧人已经在新的东宫班子组建中找到了自己的位置，正准备以此作为跳板，进入朝堂的决策行政机构大展身手。而李建成和李元吉的势力除了占据着宰相一级的高位外，在朝堂的多个行政部门中也广有基础，声势相连。他们已经承认了李世民如今所取得的地位，也清醒地意识到接下来一定会发生大规模的人事洗牌，自己的利益很有可能在这场权力重组的游戏中受到损害。不过，有这个认识并不代表他们就一定会心悦诚服地加以配合。第三股力量，则是在这场太子地位之争中两不相帮的中立派，他们采取了明哲保身的态度，但这并不代表他们就能超然事外。恰恰相反，对于自己的既得利益，这其中许多人还是看得很重的——他们并不抱什么非分之想，也不打算攀龙附凤来求取富贵，然而，这正说明他们在意的是已经得到的东西，所以不愿采取什么冒险行为以至于失去所拥有的。可想而知，倘若在变革的过程中触及了他们的利益，势必也会激起他们明里暗里的阻挠。
问题出来了，一方面是虎视眈眈等着重新划分座次的秦王府旧部；另一方面是小心翼翼护着自己地盘的武德老臣们。僧多粥少，到底应该怎么分呢？
有三个办法。第一，长痛不如短痛，玄武门刀口上的血尚未干，利用这个机会以强硬手段将朝堂上的旧势力统统清洗出局，换上自己的人马。他们在心中还充满恐惧的情况下必然不会有什么公开的反对意见。这样做的隐患在于牵涉面太广，造成的影响太坏。要知道，李建成一派的势力在行政机构中可以说是根深蒂固的。即便将各个机构衙门的头脑一并换去，底下的执行者多多少少还是与旧势力有着千丝万缕的关系。这样一来，他们心中必然会带上或不平、或担忧、或恐惧、或怨愤的心态去处理日常政务。秦王府的人就算有三头六臂，也管不来这么多消极怠工的僚属。
第二，既往不咎，咸与维新。既然李世民已经表示要宽大为怀，只要他们能够为自己所用，那就把以前的敌对势力全部包揽下来。
有这样想法的人实在是太天真了。首先，为了保证对朝政的绝对掌控，李世民必须在要害部门安插自己的班底，否则发号的施令就会在执行时大打折扣，有隔靴搔痒之感，万一出现什么意外，李世民甚至有可能被底下的人架空。再说了，不动一些人，李世民拿什么来酬劳当日提着脑袋为自己卖命的部下呢？
第三，一张一弛，缓急并用。通过渐进的策略来对人事进行重新布局。
关于这一问题，有这样两个故事。
第一个故事叫做朝三暮四，说的是有一个人以耍猴为生，他家里养了许多猴子，这些猴子都以栗子为食。有一年粮食歉收，于是耍猴人决定削减猴子们的口粮，他小心翼翼地与猴子们商量：“从今以后，每天早上每只猴子可以领到三个栗子，晚上领到四个栗子。”此言一出，猴子们纷纷反对，吵吵嚷嚷说：“太少了，怎么早晨吃的还没晚上多？”养猴子的连忙说：“那每天早晨吃四颗，晚上吃三颗，怎么样？”此言一出，猴群欢呼雀跃，纷纷赞扬其主人的慷慨仁慈。其实，栗子还是那么多，为什么猴群的态度有前后如此巨大的差别？
因为，在明知道必然会遭受损失的情况下，人们反而会对一些形式上的境遇好转更加看重。因此，对已经做好了遭受剥夺之心理准备的相当一部分武德老臣们，只需要给一点形式上的甜头，就足以让他们忘却目前所遭受的损失和痛苦。
第二个故事叫做郑人就烹。春秋时期郑国有一位国君，治下极其残忍。有一次，他被自己手下的一名臣子触怒，火冒三丈的国君下令将这个大臣扔进一口盛满滚水的大鼎中烹死。这大鼎有一人多高，当这个臣子被扔进水中的那一刹那，剧痛竟然激发出惊人的求生欲望——他从大鼎中一跃而出。国君见状若有所思，于是下令将鼎中的滚水换成冷水，将这个臣子再次丢入鼎中，然后在鼎下慢慢地烧起柴火。随着水温渐渐由冷变暖，再变热，再变得滚烫，这个臣子在鼎中扑腾跳跃，却再也没有办法逃出鼎去。
这个国君的残暴行为当然为人们所不齿，然而它说明了什么？说明倘若步子迈得太大，从这些旧有势力那里拿走的东西太多太急，他们搞不好就会拼死一搏。但如果慢慢加以调整改变，一小步一小步地触动他们的利益，等他们醒悟过来的时候，也只能无奈地接受既成事实了。
说到这里，大家就会明白，如何触动这张根深蒂固的人事大网，李世民已经找到了答案。
在政府机构设置上，唐朝基本上沿袭了前朝的制度。国家的最高政务机构由中书省、门下省和尚书省组成，分别掌管决策、审议和执行工作。另外，原来的尚书省诸曹被明确为吏、民、礼、兵、刑、工这六部，由它们共同构成大唐官场上最显赫重要的核心机构。而这其中，中书省和门下省的关系最为密切。中书省的长官有两人，称为中书令，品级为正三品，在其之下又置侍郎数人，侍郎之下，又有中书舍人六人。凡是军国要务，必须先由中书省商议计划和对策，然后草拟诏书，而这些官职不过五品的中书舍人，便是当时海内外文人学子最为羡慕的要职。但凡国家有什么政务，皆要由他们率先提出处理意见，然后根据中书令和侍郎的整理修订，提交给皇帝定夺。看上去这些中书舍人、侍郎和中书令只不过是皇帝的参谋幕僚，然而在政事繁冗的情况下，只要不是关系全局的军政要务，皇帝都会考虑或尊重他们的意见。因此可以说，中书省就是大唐的最高决策机关。
不过，中书省的权力并非不受限制。为了防止中书省坐大架空皇权，蒙蔽圣心，在中书省之下又设置了门下省。但凡由中书省草拟，皇帝认可的诏书，还要经过门下省审议复奏。倘若门下省认为这些诏书有不合适的地方，完全有权力将诏书退回中书省重新研究起草。除此之外，中央其他各部、寺、监以及地方机构呈上来的重要奏章，也必须经由尚书省转交门下省审议，必须要经过门下省认可才能送达中书省或皇帝手中。门下省的首长称为侍中，也是两人，正三品，下面设门下侍郎、给事中、散骑常侍、谏议大夫等，专门负责给日常政令提意见，挑毛病。
中书省和门下省合称“北省”，地位关键，责任重大。然而天下事务何其之多，并不是大事小事都得经过“北省”。另外，它们仅仅负责决策和审议。至于政策确定之后，总是要有人去落实执行，否则岂不是成了一纸空文？这个重担，就落到了尚书省的头上。因为尚书省的办事机构设在中书、门下两省的南侧，所以又叫做南省或南宫。凡是中书、门下发出来的诏令制敕，都要经由尚书省转发至中央各部及地方州县。有的时候，中书、门下所给出的只不过是一个泛泛而谈的指导性意见，这就需要尚书省再根据实际情况制成详细的政令条款，予以颁布施行。此外，天下一应行政事务如军政、钱粮、选举、司法的日常行政工作，也都是在尚书省来加以处理的。否则每日里的公文浩如烟海，但凭皇帝一人和中书、门下有限的官员，怎么能处理得过来？
尚书省的职官架构，本来是置尚书令一人，正二品。尚书左右仆射二人，从二品，辅佐尚书令履行政务。左右仆射之下，又有左右丞各一人，正四品，负责省内日常行政事务。此外还有左右司郎中和员外郎，作为左右丞的助手分别管理省内各部事务。说来有趣的是，在李世民即位之后，尚书令这个尊崇无比的职位，便永久性地空缺了下来。尚书省的实际主官，就此变成了左右仆射。这是为什么呢？
原因很简单，李世民在登基之前曾经担任过尚书令一职。在李世民之后，又有哪个臣子敢冒此大不韪呢？还记得当年苻坚在定策南征东晋的时候，为了鼓励士气，特意授予手下将领姚苌“龙骧将军”的官号，并且勉励他说：“这个官号乃是我当年还未登基为帝时所担任过的，如今授予你，也是希望你能效仿我干出一番事业。”
结果苻坚的话一语成谶，姚苌果然效仿起了苻坚当年的行为，不但在淝水兵败后造起反来，还囚杀了这位苻天王，自己黄袍加身做了皇帝。有这样的前车之鉴，也难怪尚书令这样的显职被束之高阁，从此变成了一个传说。
中书省决策，门下省审议，尚书省统领六部实际执行政务，这三者之间犬牙交错，互相制衡，各有所司。那么，在这张中央最高权力的布局图上，武德老臣们的势力是如何分布的呢？
当时的情况是这样的——在尚书省中，裴寂任尚书左仆射，同时还享受着正一品司空的荣誉待遇，位列三公，称得上是当朝百官中的第一人。萧瑀则为尚书右仆射，居裴寂之下。而中书省的情况又更为复杂一些。偏向李建成一党的杨恭仁任检校中书令，同时还把持着六部中的一个关键性职位——吏部尚书。另一位中书令则是封德彝，同时他还挂着检校吏部尚书的职衔。两人在职衔上互相交叉，互相牵制。至于在门下省中，门下侍中则分别由倾向李建成的裴矩和偏向于李世民的陈叔达担任。不过裴矩是以民部尚书的身份担任检校侍中，同时宇文士及也有着检校侍中的身份。在当时，“检校”算是一种本职兼领的加官，或者说是一种荣誉性的头衔。也就是说，杨恭仁和裴矩的本职工作乃是吏部尚书和民部尚书。不过，他们同时又有着当朝宰相的身份和地位，可以一同参与商议国家大事。
从权力格局来看，三省中有着宰相地位的共七人。如果算上那个首鼠两端的封德彝的话，属于太子一系的人马便占据了四席之多。再除开较为同情李世民的萧瑀和陈叔达两位老臣，完全能为李世民所用的只有宇文士及一人而已。加上在三省中太子党长期培养起来的各级侍郎、郎中、丞、员外郎等人，他们的系统称得上是根深蒂固。可想而知，若不能处理好这几股势力，日后从政令的制定，到审议通过，再到最后的付诸执行，都将会遭遇巨大的阻力。
除开在当时还没有为李世民认清真面目的封德彝之外，裴寂、裴矩和杨恭仁这三个人该从谁动起，又如何动呢？
首先说杨恭仁，他虽然能干，但在中央一级的宰相中资望最浅，根基最薄，故而李世民毫不客气地取消了他的检校中书令和吏部尚书的本官。但为了存其体面，又调他做了雍州牧，加授他属于从二品的左光禄大夫这一散官官阶。不得不提的是，在贞观五年（631年）窦轨死在了洛州都督任上之后，李世民又把杨恭仁空降到洛州出任都督一职。当时李世民还恳切地对他说：“洛州这个地方，举足轻重，镇守它的大员一定要选拔对人。朕家里那么多子弟，却没有一个人可以胜任这个职务的，只有依靠您了啊！”
杨恭仁感激涕零，虽然被从当朝丞相的位置上摆了下来，但又能得到如此的信任，甚至于还把当初李世民赖以对抗李建成的根据地洛州交给他管理，也算得上是风光一时了吧。
至于李世民，当然另有考虑。洛州这个地方前面交给窦轨管理，后面交给杨恭仁，都是要借助他们的手来惩治和警示一下当初被李世民“宠坏了”的地方官吏和豪强。至于杨恭仁单身赴洛州上任，实际上又是置其于当地官员的牵制和监控之下，这称得上是最为稳妥的安排。
另一个与杨恭仁一样被干脆利落免去职务的，是门下侍中裴矩。这个人也算得上是响当当的前朝旧臣。他在隋炀帝手下的最大功绩便是经营西域。不过，裴矩之所以出名，还是因为他在隋炀帝身边时那拍得震天响的一个个马屁。后来炀帝殒命，他又先后给弑杀炀帝的宇文化及和割据一方的窦建德效过力，也是一个精于见风转舵的主。因为不齿于他过去的种种行为，李世民毫不给面子地将他逐出了宰相的行列。不过，这个人脸皮极厚，又很能根据实际情况选择投效新的主人，再加上他的行政才能确实不错。因此，李世民还是将他留在了民部尚书的任上，在还没有找到合适接任者的时候，先过渡一下。
最后说裴寂，李世民决定对其采取最为持重的缓兵之计。因为他是最早鼓动李渊起兵的定策功臣之一，在朝野中有着极大的声望，许多典章制度都出自于他的计议规划，特别是他长期把持尚书省，在行政部门中有不少或明或暗的支持者，这是其一。其二，裴寂这个人看似柔懦，实际上城府很深。当年刘文静因为看不起裴寂，多次当面让他下不来台。裴寂在表面上一副受尽委屈的样子，背地里却暗暗布局诬告刘文静意图谋反，终于将其害死，其心机可想而知。李世民若动他动得过快，难保他不会给李世民使什么绊子，下什么圈套。故而李世民采取了两步走的策略：一方面，先是轻描淡写地以顾惜其身体为理由，将裴寂“请”出尚书省，让萧瑀接替他的位置；另一方面，李世民依然保留着裴寂司空的荣誉性头衔，同时在各个场合中一再对裴寂表示极为推崇之意。在即位后大封功臣时，还特意将裴寂单独列为第一等，享封户一千五百户之多。在朝廷上，没有任何一个人能与他相提并论。这样一来，相信裴寂在今后进一步的机构调整中，不会抱有太强烈的不合作态度。
旧人换了出来，如何将新人充实到班子中去呢？秦王府中精英虽多，但也不能一下子尽数充填到宰相一级的岗位中去。这样一方面会给朝堂上所有人以“一人得道，鸡犬升天”的坏印象。那么以后，大家若想要升迁出头，就不会想到凭借自己的真才实学，而是如何能在政治斗争中站到正确的一边。第二，秦王府旧人虽然都有相当的才干，但骤然接手全国性的行政管理和决策工作对他们来说也是一个挑战，需要时间来慢慢学习。同时也需要与手下的僚属们进行磨合了解，否则很容易在工作中犯下巨大的错误，到那个时候，对他们不加以惩处很显然又是不可能的。贸然提拔，不是在培养和爱护自己的人才，反而是在伤害和摧残他们。
鉴于以上的考虑，李世民决定首先将宇文士及由门下省调入中书省，同时再补入房玄龄为中书令，充实最高决策机构。中书省这个部门，如果主官过于有自己的想法，就很容易与皇帝的意见发生冲突，而强势的主官甚至会将皇帝架空，这自然不是李世民希望看到的。刚刚掌握最高权力的李世民，首先要保证的是自己的决策能够顺利执行。而这两个人的共同特点在于特别能保守秘密，是机密决策的最佳人选。房玄龄谋略过人，参谋角色最适合他不过，宇文士及善于体察上意，对李世民的许多想法和决策都能加以补充和完善，又不会居功自傲。由他们执掌中书省，对李世民来说，只有助力，没有阻力。
至于门下省，一方面保留陈叔达不动，另一方面引入李世民的舅舅——高士廉。高士廉出自渤海高氏这一名门望族，无论从资望还是从才干与亲疏关系上讲，都是可以让李世民放心的人。让他和陈叔达一同掌管门下省，也可以保证中书省的政令——也就是李世民的意见在贞观初期权力布局尚未正式完成的关键时刻可以畅通无阻，不至于受到过分的掣肘。
在尚书省中，萧瑀算是自己人。再加上尚书省与“北省”不同，是天下政令的实际中转枢纽和管理机构，一旦处置失误，很容易招来物议。故而李世民并没有马上引入秦王府旧人来接替萧瑀原来的尚书右仆射一职，而是由原中书令封德彝来接任。封德彝这个人善于顺承当权者的意见，在尚书省中应该会很配合地履行李世民的意志。同时，李世民又让杜如晦掌管兵部，长孙无忌掌管吏部。兵部掌管全国六品以下基层武官的挑选、任命，以及天下兵马的军政和军训工作；吏部负责六品以下官员的选举赏罚和绩效考察。抓住了这两个部门，就抓住了全国基层行政官员和军官的人事控制权，因此这两个部门必须得牢牢掌握在自己人的手中。至于其他四部，除开民部之外，重要性就要小得多。
政治部门中关键性的岗位分拨已定。至于军队方面，凭借以前李世民在军中的巨大声望，重新安排人事工作相对要容易许多，掣肘的阻力也很小。秦叔宝、程知节以及尉迟敬德分别被任命为左卫大将军、右武卫大将军和右武侯大将军，侯君集任左卫将军，段志玄为骁卫将军，张公谨为右武侯将军，长孙无忌的哥哥长孙安业为右监门将军。这些都是在玄武门之变中出过死力的忠实部将。另外，为了对中立势力表示善意，李世民又任命李靖的弟弟李客师为领左右军将军，同时还将原来李建成手下的猛将薛万彻任命为右领军将军。这样一来，既做出了高姿态的表示，又确保了军队的力量在自己的牢固掌握之中。
同时，为了防止秦王府旧人对自己形成权力包围之势，李世民早已任命魏徵、王珪、韦挺等人担任纠弹谏议的职务，以此来警示旧部不要得意忘形，滥用权力。另一方面，李世民又调回了在“杨文干事件”中被流放外地的杜淹，让他出任御史大夫一职，总管监察百官。这样就形成了“我中有你，你中有我”的制衡局面。可以算得上是面面俱到，万无一失了。
这番安排甫一做出，大家都为之心悦诚服，相信今后朝堂必然是一个能包容各方势力共创盛举之地。八月初八，李渊正式下诏禅位。在一番程式化的推让之下，李世民于初九在东宫显德殿即皇帝位。贞观元年（627年）的新格局就此拉开了序幕。