自从隋末战乱分裂，争夺天下的群雄跨州连郡，数不胜数。魏公叛隋而起，振臂疾呼，四方响应，驱驰万里，追随之众如云合雾聚，以数十万计，威风所至，几达半壁天下。在洛口破王世充，在黎山摧毁宇文化，正要西蹈咸阳，北夺宫阙，扬旌旗于瀚海，饮战马于渭川，却以百战百胜的神威败为奔亡逃命的穷寇。因此可知帝王之位，自有所归，不是奋力争夺就能得到的。为此，魏公念及皇帝眷顾，毫不迟疑西入函谷关。您生于乱世，感念魏公的知遇之恩。如今依靠的根基已撤，您却不改初衷，纠集残余部众，固守一隅。使王世充以乘胜余勇，不敢东向，窦建德顺有利之势，不敢南攻。您的英名足以传扬今古。然而谁没有好的开端呢？要想有好的结局却不易。背离唐还是归附唐是关系您安危的大计。如果接受唐的封爵，领受封地，那么九族都可以享受余荫；若误投他人，那么您就连自身也无法保全。前代已有教训，您已耳闻目睹。孟贲只因犹豫不决，就使童子先他一步，征兆一出现，应当立即把握，不能等到明天。现在您位于兵家必争之地，处在须尽快决断的关头，若再迟疑不决，坐观成败，恐怕凶顽狡诈之徒就会抢先一步萌生献地降唐之心，那样的话您的大势就无可挽回了。
徐世勣得到书信，便定计遣使归附唐朝，并开仓运粮，供应淮安王神通的军队。
不久窦建德率部众南下，攻占黎阳，俘获魏征，让他任起居舍人。等到窦建德被俘，他又和裴钜一起西行入关归唐。隐太子李建成听说他的名声，引荐他做太子洗马，对他十分尊敬。魏征看到太宗李世民的功业日盛一日，常劝建成对他早做防备。及至建成失败，太宗派人召来魏征，对他说：“你挑拨我们兄弟二人，这是为什么？”魏征回答：“皇太子若是听从我的话，绝不会有今日的灾祸了。”太宗一直很器重他，引荐他做詹事主簿。太宗继位后，升魏征为谏议大夫，封钜鹿县男，派他去安抚河北地区，并准许他遇事相机处理，不必请示。魏征行至磁州，遇到李建成的东宫千牛李志安和齐王护军李思行正被枷梏押往京城。魏征对副使李桐客说：“我辈接受使命之日，原东宫太子府、齐王府的人，都已被圣命赦免，不再问罪。现在却又押送思行问罪，别人谁能不自生疑心，徒然派使臣前去，他们一定不会相信。这真是差之毫厘，失之千里。况且只要于国家有利，就该知无不为，宁可殃及自身，不可败坏国家大计。现在如果放还思行，不向他问罪，那么朝廷信义能够感化之处，就会无远不及。古时，卿大夫出使边地，只要于国家有利的事，就可以专断，何况此次出行，允许我们有遇事随时处理、不必请示的权利。皇上既把我们当国士对待，我们怎么能够不以国士的身份行事以报效皇上呢？”他们立即开释思行等人，过后据实上报，太宗十分高兴。
太宗初即位，励精图治，多次领魏征进卧室，询问施政得失。魏征很有治国的才略，并且性情耿直，无所屈服。太宗与他谈话，总是欣然采纳他的意见，他也欣喜遇到知己的君主，力图竭尽所能，知无不言。太宗曾慰劳他说：“卿所陈述劝谏的事，前后共有二百余条，如果不是卿竭诚为国效力，怎么能如此？”这一年，魏征升任尚书左丞。有人传言魏征偏袒自己的亲戚，皇帝派御史温彦博调查证明传言不实。温彦博奏报说：“魏征身为朝臣，应该检点自己的言行举止，他却不能避开嫌疑，所以招来这些非议。虽然在情理上他并没有徇私，但也有该受责备的地方。”太宗命温彦博去责备魏征，并且说：“从今以后不可不注意自己行为的影响。”过了几天，魏征入朝上奏道：“臣听说君臣和协默契，二者道义上如同一个整体。哪有弃公道于不顾，只追求个人行为影响的。如果君臣上下，都按这条道路行事，那么国家的兴亡就不可预知了。”太宗吃惊地变了脸色，说：“我已经悔悟了。”魏征再次叩拜说：“希望陛下让臣做良臣，不要让臣做忠臣。”太宗说：“难道忠和良还有区别吗？”魏征答：“稷、契和皋陶就是良臣，而龙逢、比干则是忠臣。良臣能使自身获得美名，君主也获得显赫的尊号，并且子孙相传，福禄无穷。忠臣却不但自己遭杀身之祸，也使君主陷于罪恶深重的境地，自家、国家一同毁灭，只是空得一个忠臣的美名。由此而言，忠和良相差太远了。”太宗诚恳地接受了他的意见，并赐给他500匹绢。
贞观二年，魏征迁秘书监，开始参预朝政。他提出战乱过后，典籍章册纷零杂乱，奏请选派学者校定经、史、子、集四部书，几年之内，国家书库的典藏已是洋洋大观、十分齐备了。
其时高昌国王麴文泰即将入京朝见，西域各国都想随文泰一行派使朝贡，太宗命令文泰的使臣厌怛纥干前往迎接他们。魏征劝阻说：“中国刚刚安定，还没有从战争的创伤中恢复过来，如果稍有劳役，就会使自身不安定。往年文泰一人入朝，一路经过的州县都供他不起，更何况又加上这些来使。如果听任他们的商贾往来经商，边地的人还可以从中获利，但若作为宾客，中国很快就会受到他们的困累。东汉建武二十二年时，天下已经安定，西域请求汉设置都护，并遣送子弟入侍汉天子。光武皇帝没有同意，就是因为不想为了异族而使中国劳顿困竭。现在如果准许十国入朝进贡，十国的使臣不少于千人，想要让沿边各州拿什么来接待他们呢？人心万种，日后虽然后悔，恐怕也于事无补了。”太宗认为他的意见很好。这时厌怛纥干已启程，于是立即派人去追赶阻止他。
后来，太宗游幸九成宫。因为有宫女要回京城，她们就住在川县的官舍里，不久右仆射李靖、侍中王珪相继到来，县里官吏把宫女从官舍移走，而让李靖等人住下。太宗得知后恼怒地说：“威福的权柄难道归李靖这几个人？为什么优礼接待李靖而慢怠我的宫女。”随即下令查处讳川县官员和李靖等人。魏征劝阻说：“李靖他们几人是陛下的心腹大臣，而宫女是替皇上皇后清扫的奴婢，若论他们各自的职守，完全不是一回事。何况李靖等人外出，各地官吏要向他们打听朝廷的纲纪，回朝后，陛下也要向他们询问民间的疾苦。李靖等人自然应当与下面的官吏见面，下面的官吏也不能不去参见大臣。至于宫女，除了供给她们饮食之外，并不需要另外参见逢承。如果以此为罪责罚县吏，恐怕不利于陛下仁德的名声，只会使天下人听说后惊骇。”太宗说：“你的话很对。”于是宣布县官无罪，对李靖等人也不再责问。
不久太宗在丹霄楼设宴。酒兴正浓时，太宗对长孙无忌说：“魏征、王珪过去在东宫做事尽心竭力，当时也实在可恶。我能提拔他们，一直到今天，完全算得上无愧于古人了。但是魏征每次劝谏，我不听从时，我说的话他总不立即回答，这是为什么？”长孙无忌回答：“大臣们认为事情不妥，所以才陈述意见，如果陛下不听从而大臣马上回答，就恐事情会立即实行。”太宗说：“当时姑且先答应，过后再另外陈述意见，不是就可以了吗？”魏征说：“往昔舜告诫群臣‘你们不要当面顺从我，退下后又有话说。’如果臣当面顺从陛下，回去后又要进谏，这就叫‘退下后又有话说，’这哪里是稷、契用来侍奉尧、舜的心志呢。”太宗大声笑道：“人家都说魏征举止粗疏傲慢，我却只觉得他柔媚，刚才的事就是这样。”魏征拜谢道：“陛下引导臣，让臣讲话，所以臣才敢进谏。如果陛下不接受臣的劝谏，臣岂敢屡次冒犯陛下。”
当月，长乐公主将要下嫁，太宗认为她是皇后所生，因此命主管官员送去的陪嫁比永嘉长公主多一倍。魏征说：“不行。过去汉明帝要封自己的儿子时说：‘我的儿子怎么可以与先帝的儿子同等待遇呢？只可以给他相当于楚王、淮阳王一半的封土。’这件事被前代的史书传为美谈。天子的姐妹称长公主，女儿称公主。既然加上‘长’字，就表示尊崇的意思。或许对她们的感情可以有深浅之分，但是在礼遇上却不能越制。”太宗同意他的话，回去后告诉长孙皇后。皇后派人带上钱四十万、绢四百匹，到魏征家中赏赐给他。不久他的爵位进为郡公。
贞观七年，魏征代替王珪任侍中，尚书省有迟迟判决不下的案子，皇上命令魏征评断。魏征本不熟悉法律，他只是依据大的原则，按情理断处，没有人不心悦诚服。
当初太宗下诏令，派令狐德棻、岑文本撰写《周史》，派孔颖达、许敬宗撰写《隋史》，派姚思廉撰写《梁史》、《陈史》，李百药撰写《齐史》。魏征奉诏统一修订，对上面各书有多处删改，力求简明无误。《隋史》的序和论，都是魏征所作，他还为《梁史》、《陈史》、《齐史》各书写了总论。当时这几部书被称为良史。史书修成后，魏征升左光禄大夫，进封为郑国公，受赐彩帛二千段。
魏征自认为对国家没有功劳，只是因为能言善辩，才参与国事的决策，生怕荣宠太过，后来便以眼疾为由多次上表辞官。太宗说：“朕把卿从仇敌的阵营中提拔起来，让卿担任机要的职务，卿见到朕的过失，也从来没有不加劝谏的。卿难道看不见，金属埋在矿里时，哪里值得珍惜，擅长冶炼的良匠把它锻造后制成器具，才被世人看做宝物。朕把自己比做金属，把卿比做良匠。卿虽然有病，却没有衰老，怎么能让卿就辞官呢？”这一年，魏征又当面向太宗请求辞官，太宗难于违背他的要求，于是拜他为特进，依旧让他掌管门下省政务。其后魏征又连上四篇章疏，论述治国成功与失败的经验。
§§§第一篇说：
臣考察自古以来凡接受版图配享天命、承继帝位恪守成法、统御英豪君临天下者，都希望道德崇厚达于天地，神思睿智与日月相辉，子孙百代，国运相传，没有穷尽。但是能够保全天下的很少，一个个相继败亡，这是什么缘故呢？我为此探求他们失败的原因。历史教训并不遥远，可以求得为陛下言说。
往昔隋朝，统一天下，军势强盛，三十余年间风行万里，声威远震异域，然而一旦举天下而弃之，天下便都为他人所有。难道他隋炀帝不喜欢天下太平安定，不想使国家命运长远，而故意像夏桀那样施行虐政，以走向败亡吗？就是因为他自恃国家富强，不思虑以后的祸患。驱使天下人以放纵一己的私欲，耗尽天下资财以供自己享用，搜寻天下美女，求取远方珍奇异物，宫殿室宇务求装饰华丽，楼台亭榭务求建筑巍峨，徭役不息，战事不断，对外耀武扬威，内部危机四伏，奸诈邪恶者必定从中获福，忠臣义士不能保全性命。上下欺骗，君臣猜忌，百姓不堪重负，国家分崩离析，于是天下至尊之主死在匹夫手下，子孙也遭诛戮，最终为天下人耻笑，真是太让人痛惜了。
圣人贤哲善于把握时机，挽救危急沉沦的局势。支撑苍穹的八根立柱倾倒能使它重新竖起，礼义廉耻四义沦丧能使它重新光大，不出十天半月，可使远近整肃安定，无须等待百年，便可使恶人归善而废除刑杀。如今隋朝的宫观楼台都已住上，珍奇异物都已收齐，又有妻妾嫔妃在身旁服侍，四海九州也已称臣称妾了。如果能够以隋亡的教训为鉴，记住我唐朝所以得天下的原因，一天比一天谨慎，虽政绩良好而不自以为好，焚烧商纣王鹿台的宝衣，捣毁秦始皇阿房宫宽广的殿堂，身处高大的宫殿便忧惧国家危亡，身居卑陋的宫室才能安然处之，那么就会暗通神灵化境，使天下无为而治，这是德之中最上乘的境界。如果不毁弃已经完成的功业，继续按照成规行事，停罢并非急需之务，将用度减损之后再减损，雕梁画栋间参以茅草，玉石台阶旁杂以土台，以和悦役使百姓而不穷竭民力，时常想到坐享其成者已十分安逸，劳作者却十分辛苦，百姓因愉悦而归顺，众生因仰慕而安守本分，这是德之中次一等的境界。如果不思念圣贤之道，不顾及日后的结局，忘却创业的艰难，自以为可以依恃天命，忽视建筑的俭朴，追求雕墙画栋的奢侈靡费，前代的宫室要拓宽，旧物添新再加粉饰，遇到相类似之物必定与之攀比、一争高下，而不想到适可而止，人们看不到德政，只听说无休止的劳役，这是德之中最下等的。这样做就如同背负柴草去救火，泼上开水以制止沸腾，这是以新乱代替旧乱，与原有的乱如出一辙，切不可以效法。这样做后果如何？会使天怒人怨。天怒人怨，就必定遭受灾害、引发祸乱。一旦祸乱发生，便很少有国君能够保全自家性命、留下美好名声的了。顺应天命改朝换代之后，国运兴盛七百年。这七百年的江山谁都想把它留给后人，传续万代。然而得天下难，失天下易，难道还能够不认真想一想吗！
§§§第二篇说：
臣听说要想树木茂盛，必须使它的根部扎得牢固；要想河水流得长远，必须疏浚它的源头；要使国家安泰，必须积聚德政义行。源头不深怎么能希望河流长远，根部扎得不牢哪有树木的繁茂。德行不崇厚却希望国家大治，臣虽愚钝，也知道不行，更何况贤明圣哲呢。君主掌握国家的重权，居宇宙间道、天、地、王四大之一，其尊崇与上天一样高峻，应永保福运无疆。如果不想到居安思危，以节俭戒除贪婪，不能使德行聚累崇厚，不能用情理战胜欲望，这也就如同砍伐树根而想使它茂盛、阻塞源头而想使河流长远一样。
一切帝王，承受上天大命，没有不是深怀忧惧而治绩卓著、功业告成而德行衰微的。有良好开端的实在很多，能够贯彻到底的却很少。难道是夺取江山容易守护江山难吗？昔日夺取时力有余，如今守卫却力不足，原因何在？原来深怀忧患时必定竭尽诚心对待下面的人，已经实现志向后就会放纵自己，傲视一切。如果竭尽诚心，那么就会四海结为一家，如果傲视一切，那么至亲骨肉也会视同路人。虽以严刑管束、以威怒震摄，终究也只是免于刑罚而并不感念仁德，外表恭顺而内心不服。怨愤不在大小，可畏惧的是众人。（众人如水）水可以载舟，也可以覆舟，这是应该十分谨慎对待的；腐朽的绳索套着奔驰的车辆，这种危险是可以忽视的吗？
为人君主者，如果能做到见到引起贪欲之物就想到知足以警戒自己；将要有所举措时就想到应当适可而止以使百姓安定；每念身居高位面临危殆就想到谦虚淡泊以自处；惧怕满盈而溢出就想到要如江海那样低下以容纳百川；以巡游为乐就想到天子射猎应以三驱为限；恐怕松懈倦怠就要想到做事应当谨慎地开始、兢兢业业地结束；忧虑壅塞蒙蔽就要想到应虚心待人以接纳下面的意见；思虑谗言邪谠就要想到端正自身以去除邪恶；有所赏赐就该想到不因个人喜好而误赏；有所惩罚就要想到不因盛怒而滥用刑罚。总结这“十思”，弘扬九德，选拔有才能者任用，择取好的意见听从，那么聪明的人就会献出全部智谋，勇敢的人就会献出全部力量，仁慈的人就会传播他们的恩惠，诚信的人就会贡献全部忠心。文臣武将争相效力，君臣之间没有嫌隙。这样就可以尽享悠游之乐，可以颐养天年、弹琴鸣曲，垂衣拱手，无须烦言而教化已成。何必劳费精神，苦苦思虑，代替臣下履行各自的职责，役使聪明的耳目，而有亏“无为而治”的大道呢！