孝宗穆皇帝永和十二年（公元356年）
桓温请移都洛阳，修复园陵，章十余上，不许。拜温征讨大都督，督司、冀二州诸军事，以讨姚襄。
公元356年，桓温第二次北伐。
在北方，鲜卑慕容氏和鲜卑段氏开打，在关中的氐族苻氏，权力交替，又遇上黑皮苻生做皇帝，内乱酝酿中，也消除了桓温的侧顾之忧。桓温此次北伐的主要对手是羌族姚襄。
姚襄在中原颇结人心，“虽战屡败，民知襄所在，辄扶老携幼，奔驰而赴之”，中原战乱五十多年了，两三代人了，老百姓已经不知道谁是正统了。
此战桓温胜，姚襄败，姚襄西奔，和苻氐冲突，结果败亡，弟弟姚苌率余部投降氐人。五胡之中，羌族为弱，整个十六国时代具体到每个时间段，中国基本上还都是三国鼎立状态，呈三大分裂板块，南朝一块，北方分为东西两块，最初是晋、汉、成，后来是晋、赵、燕，此时是晋、燕、秦，姚氏集团只能作为棋子和筹码影响局势，直到姚苌后来建立后秦，才算是独占一方。
桓温此次北伐的战略目标是收复洛阳，桓温自称是“开复中原，展敬山陵”。从字面意义上讲，“开复”比“恢复”、“收复”都添加了“开创性”的意义，中国政治是讲究抠字眼的，桓温自我期许甚高，志向远大，在江左一片因循守旧的气氛里，桓温能锐意进取，用“恢复”形容之确实有些低估了桓温的价值。
在进军的路上，桓温与僚属登楼遥望中原，叹曰：“遂使神州陆沉，百年丘墟，王夷甫诸人不得不任其责！”王夷甫就是王衍同志，是士族清谈派代表。
秘书袁宏说：“运有兴废，岂必诸人之过。”袁宏列《晋书·文苑传》，诗文了得，倚马可待，他的态度可能代表了当时的主流看法，大家都认为国家兴亡关乎运数，没有人需要负责，也不必追究责任，或者说人人都有责，人人也都没责，大家稀里马虎团结一致向前看就行了。在中国问责是件高难度的事情，最多最多找个替罪羊，而且罪羊一般都是小小个的。
桓温听完袁宏的话脸色骤变：“昔刘景升有千斤大牛，啖刍豆十倍于常牛，负重致远，曾不若一羸牸，魏武入荆州，杀以享军。”
饭桶当国，尸位素餐，千斤大牛何其多也，桓温斯言沉痛，痛哉斯言！
桓温大兵压境，洛阳守将周成投降。和上次勒马灞水瞭望长安不同，这次桓温带兵确确实实进了洛阳。桓温恢复故都，拜谒诸陵，有毁坏者修复之，并置陵令保护之。古代讲究孝治天下，桓温“展敬山陵”，向蛮夷宣示主流价值观，对内部反对北伐的人则是一记闷棍：闭嘴吧！
桓温在北伐前后，一直上疏请求移都洛阳，但是朝廷不许。桓温都督天下诸军事，但他一直避免回到建康任职，长期停驻上游，遂使东晋有两个首都，一个“军事首都”和一个“行政首都”。
此时穆帝司马聃只有十三四岁，尚未亲政，这一阶段东晋朝廷到底是怎么运作的？谁在审阅桓温以及其他地方官的上疏？谁在替小皇帝批复？Yes or No是谁拍板？建康朝廷疑似处于一种“委员会”状态，外戚褚裒为人也不强势，他和王谢等士族代表，共同处理日常事务。这一阶段，史书都用“朝廷”笼统言之。这种权力平衡模式，在中国历史上属于非典型模式，极为罕见。大士族的存在，削弱了皇权也维系了皇权，包括对桓温这样的军事强人也有了相当的制约效果。
到桓温恢复洛阳，东晋在江南立国已经四十年了，当初跟随司马睿东渡的大士族已经是家大业大，习惯了江南的气候和安逸的生活，正是：
一流士族享清闲，二流士族抓军权。
北望神州陆沉处，只剩铜驼和陵园。
桓温迁都的想法没有人响应，他只好留下守城将士。在洛阳期间，桓温得到了刘琨的一名家伎，她见到桓温便潸然而泣。桓温问其故，她答道：“公甚似刘司空。”桓温大悦，刘琨是著名帅哥，桓温颇为自恋，也一直以为自己和刘琨风采风度相仿佛，于是赶紧整理衣冠，让这位见证人细细品鉴。这位也不客气，鉴定如下：“面甚似，恨薄；眼甚似，恨小；须甚似，恨赤；形甚似，恨短；声甚似，恨雌。”
桓温听罢，把帽子一甩，衣带一解，倒头昏然而睡，不怡者数日。
桓温是个性情中人，“自以雄姿风气是宣帝、刘琨之俦，有以其比王敦者，意甚不平”。好不容易有人称他有似刘琨，结果样样差了那么少许，呵呵。