接替齐桓公称霸的是晋文公。晋文公名字叫重耳，是晋献公的儿子。晋献公最宠爱的骊姬想立自己的儿子奚齐为太子，就逼死了太子申生，并且要阴谋杀害比奚齐年长的公子重耳和夷吾。重耳和夷吾只得分别逃到国外去避难。
晋献公死后，公子夷吾在秦穆公的帮助下，于公元前650年回国当了国君，就是晋惠公。重耳逃离晋国以后，在狄国避难十二年，晋国有才能的人，像狐毛、狐、赵衰、介子推等人都跟随他。为了躲避仇杀，重耳一行流亡到齐国。
齐桓公对他们招待十分周到，还把本家的一个美女齐姜嫁给重耳做夫人。重耳非常感激，更加敬佩齐桓公。他们在齐国一住就是七年。公元前643年，齐桓公死了，齐国的五个公子争夺君位，国势渐渐衰落下来。跟随重耳的几个人商量要离开齐国。
可是，重耳迷恋眼前的安逸生活，整天厮守着齐姜，再也不想离开齐国了。狐毛等人无奈，便想以请重耳打猎为由，将他强行带离齐国。他们的计划被齐姜知道了。齐姜深明大义，不仅没有阻止，反而帮助他们将重耳灌醉。于是狐偃等人七手八脚地把重耳抬上车，连夜出城。他们一气跑了五六十里，才放慢了脚步。这时候正值雄鸡啼晓，东方发白。重耳翻了翻身，感到摇晃得厉害，睁开眼一看，才知道自己是睡在车上。事到如今，重耳也无可奈何，只好和大家一起上路。
重耳一行人辗转来到楚国。楚成王非常隆重地欢迎重耳，用招待国君的礼节招待他。楚成王对重耳越恭敬，重耳表现得越谦逊。有一天，楚成王问重耳：“公子如果回到晋国，怎样报答我呢？”重耳想了想，说：“如果托您的福，我能够回到晋国，一定和楚国和睦相处；将来万一两国打起仗来，我一定命令晋军退避三舍，来报答您的恩情。”古时候行军，三十里为一舍，退避三舍，就是后退九十里。楚成王见重耳身居困境仍胸怀大志，而且气魄非凡，便更器重他了。
这时候，秦穆公正各处打听重耳的消息，听说他在楚国，马上派人去接。重耳便告别了楚国，带着一行人向秦国奔去。公元前636年，秦国大军护送重耳渡过黄河，收复了晋国。晋国的文武大臣拥立重耳为国君，就是晋文公。晋文公从四十三岁起逃难，到即位的时候，已经六十二岁了。长期的流亡生活，使重耳磨炼了意志，增长了政治才干。重耳当了国君以后，注意整顿国内政治，发展生产，安定人心，晋国很快就强盛起来了。