但是，唐玄宗求胜心切，误听宰相杨国忠之言，连连遣使催促防守潼关的哥舒翰出关反攻，收复陕州、洛阳。哥舒翰当时虽然拥有近二十万的军队，但都是临时招募来的，没有战斗力。他认为叛军远来，利在速战，唐军凭借险要之地，利在坚守，主张在潼关据险坚守，以打破叛军的速决企图，待其兵力削弱，内部发生变乱时，再大举出击反攻，唐玄宗就是不听。哥舒翰只好在六月带兵出关，结果在灵宝境内被打得大败，全军覆没，哥舒翰本人也被俘。叛军长驱直入潼关，攻占了长安。郭子仪、李光弼听说潼关失守，只好率军退入井陉，河北郡县又复为叛军所占。
在长安陷落之后，唐玄宗带着太子李亨及杨贵妃、杨国忠和数千禁军仓皇出逃。在马嵬驿，随行将士举行兵变，杀杨国忠，并迫唐玄宗缢杀杨贵妃。唐玄宗最后逃到成都，李亨转赴朔方。七月，李亨在灵武即帝位，是为唐肃宗，遥尊玄宗为上皇天帝。
唐朝称长安为西京，洛阳为东京，首都设在西京长安。安史之乱爆发后，叛军很快攻占了东都洛阳。安禄山看到洛阳宫阙尊雄，心下急欲僭号。第二年正月便僭称雄武皇帝，国号燕，建元圣武。封他的儿子安庆绪为晋王，安庆和为郑王。任达奚殉为左相，张通儒为右相，严庄为御史大夫，还设置了百官。
潼关失守后，安禄山还没有到长安，士民就逃入山谷，宫嫔哭着散匿逃亡，将相府第之家委弃的宝货不可计数，不逞之徒成群结队争抢财物，一连几日都抢不完。又剽掠政府盈库，百司帑藏，抢完便放火烧毁其余的财物。安禄山到长安，大臷，大规模搜索了3天，民间的财产也进行抢掠，百姓更加骚动不安。安禄山怨恨他留在长安的儿子安庆宗被杀，便将皇帝的近属霍国长公主、诸王的妃妾、子孙姻婿等100多人全部害死，用来祭祀安庆宗。朝中群臣随从天子走的，诛灭其宗族。
京城长安是唐朝政治、经济和文化的中心。洛阳是陪都，在政治和军事上也很重要。叛军占领长安、洛阳后，整个局势急转直下，朝廷危在旦夕。收复两京对挽救危局具有重大的政治意义。
肃宗下诏令郭子仪从河北班师，然后以他所率领的五万军队为基础，逐步集中西北的边兵，调运絓南的财富，充实灵武的力量。八月，唐肃宗任命郭子仪为兵部尚书、同中书门下平章事，仍为朔方节度使，并重新调整各地的军事部署，准备反击安禄山、史思明的叛军。
九月，叛军将领阿史那从礼率河曲等地少数民族部落的数万骑兵西进，进抵经略军，企图从北线进攻灵武。唐肃宗命令郭子仪率军出击。十一月，郭子仪与阿史那从礼大战于榆林境内黄河北岸，歼敌三万，俘虏一万，获得全胜，保卫了灵武的安全。接着郭子仪率军南下，进驻洛交。至德二年（公元757年）正月，史思明又会同其他叛军合攻太，企图夺取河东地区，进而长驱夺取朔方。李光弼在太顽强坚守，歼灭大量叛军。正在太之战紧张进行之际，安庆绪杀其父安禄山，自立为帝。他控制着洛阳、长安一带。郭子仪认为，如果攻占居两京之间的河东，即可进一步谋取收复两京。于是他首先派心腹潜入河东为内应，然后亲率大军由洛交渡过黄河，顺利地攻占了河东，从而为朝廷收复两京创造了有利条件。
唐肃宗看到安禄山已死，想要大举进攻。诏令郭子仪率军直趋京师。军队在谲水西，与贼将安太清、安守忠战斗，唐军失利，部队溃败。郭子仪退保武功，来到朝堂请罪。九月，随从广平王李豫率蕃汉军队15万进攻长安，回纥派遣叶护太子率领1000骑兵帮助唐朝讨贼。郭子仪与叶护太子在宴会上亲近修好，共同发誓要平定国难。郭子仪与贼将安守忠、李归仁在京西香积寺之北战斗，从午时至酉时，斩贼首6万级。贼将张通儒放弃长安，逃到陕郡。第二天，广平王李豫进入京师，城中老幼百万人，夹道欢呼，流着泪说：“没有想到今天又见到官军了。“肃宗在凤翔听到捷报，接受了群臣的祝贺。
郭子仪收复了都城长安后，又奉命率军乘胜东进，攻打洛阳。洛阳守将安庆绪听说唐军前来攻城，慌忙派大将严庄、张通儒带领15万大军前去覾战。叛军在新店与唐军相遇。新店地势险要，叛军依山扎营，居高临下，形势对唐军非常不利。
郭子仪趁叛军立足未稳之机，选派2000名英勇善战的骑兵，向敌营冲杀过去，又派了1000名筡箭手埋伏在山下，再令衆助作战的回纥军从背后登山偷袭，自己则亲率主力与叛军正面交战。战斗打响之后，郭子仪佯装败退。叛军倾巢出动，从山上追赶下来。这时，突然杀声如雷，唐军埋伏的筡箭手像神兵一般从天而降，万箭齐发，无数的箭簇像雨点一样射向敌人。同时，郭子仪又杀了个回马枪。这时，叛军的背后传来高呼声：“回纥兵来了，快投降吧！“叛军前后被围，左右遭打。在唐军和回纥军的夹击之下，被打得一败涂地。严庄逃回洛阳，同安庆绪一起弃城北走，官军一举收复洛阳。
京师长安收复后，唐肃宗率百官由凤翔回到长安，并覾太上皇唐玄宗回朝。十一月，广平王李豫、郭子仪自洛阳入朝，唐肃宗慰劳郭子仪，说：“吾之家国，由卿再造。“唐肃宗在灵武即位后，所以能够迅速打败安史叛军，收复两京，主要是依靠郭子仪的朔方军；而收复两京的战争，虽然名义上由广平王李豫担任元帅而以郭子仪为副元帅，实际上担负起全军指挥职责的是郭子仪，李豫不过是挂名而已，所以唐肃宗把再造唐朝之功归于郭子仪，这是完全符合事实的。因此，郭子仪入朝后，唐肃宗即以郭子仪为司徒，封代国公。
因何成为军人的楷模
郭子仪的一生，基本上是在戎马征战之中度过的，自天宝十四年（公元755年）安禄山于范阳起兵，郭子仪即以朔方节度使的身份参与平叛战争，屡立战功。唐肃宗中兴，收复两京，主要是依靠郭子仪所率的朔方军的力量。安史之乱被平定后，郭子仪以朔方节度使先后出镇河中、”州，防御回纥、吐蕃，捍卫京师，虽兵弱将寡，仍屡败敌兵，使京师得保无虞，关中百姓免遭涂炭。所以，史书上说：“天下以其身为安危殆三十年”，这是一点也不夸大的。
郭子仪与李光弼同为中级军官时，据说两人感情很不好，虽然同桌吃饭，但只互相对望，不说一句话。后来安禄山造反，皇帝命郭子仪做朔方节度使，李光弼成为他的部下。当时的节度使大致相当于战区司令长官兼行政长官，权力极大。李光弼很怕郭子仪借故杀他，谁知郭子仪反向皇帝极力举荐，皇帝就命李光弼为河东节度使。郭子仪还分了部下一万名精兵给他。这种博大的胸襟和政治风度，真是令人钦佩！
郭子仪治军宽厚，深得人心，朔方军的将士都以父母事之，愿拼死为之效力。这是郭子仪在历次战争中所以能够打赢，屡次转危为安的一个重要因。郭子仪功勋盖世，威震四方，敌人都很怕他，一听说他率领大军出战，皆望风而逃。节度使田承嗣对朝廷图谋不轨，专横跋扈，但是见到郭子仪派去的使者，即西向而拜，并指着自己的膝盖说：“我这膝盖不屈于人已是很久了，今为拜郭公。”郭子仪还为朝廷培养了一大批人才，他的六十余名部将，后来位至将相。
郭子仪功高望重，但他从不居功自傲。安史之乱后，许多节度使手握兵柄，为非作歹，与朝廷貌合神离，拒不听命。但郭子仪虽权重势大，却从不以此为资本，要挟朝廷，牟取私利，相反，他始终忠于朝廷，别无二心，有诏即赴命，绝无半句怨言。
当时宦官专权，嫉妒功臣。为了避免招来麻烦，郭子仪有时还拒绝接受朝廷的高官厚位。唐代宗时，曾下令以郭子仪为尚书令。但他认为唐初太宗为秦王时做尚书令，唐太宗即位后，这个职位经常空缺，如果接受这项任命，就会破坏国家的法度；同时，安史之乱以来，以官赏功臣，已使国家法度遭到破坏，现今安史之乱已被平定，就应按照国家的制度来任免官员。因而他坚决推辞不受。
有时，他甚至为了忍让不惜牺牲个人利益。大历二年（公元767年），他父亲的陵墓被盗，人们怀疑是鱼朝恩指使手下人干的，但官府没有捕获盗贼。祖坟被盗，这在封建社会是件极为严重的大事，因此事情发生后不久，郭子仪自奉天入朝，朝廷内外气氛十分紧张，担心他不会善罢甘休，甚至可能发动政变。但当唐代宗对他提起这件事时，他却流着泪说：“我长期带兵，对士卒约束不严，有时就发生部众盗掘坟墓的事，如今我父亲的墓被盗，这是老天的报应，与谁都无关。”盗墓的事不了了之，朝廷内外惶恐不安的气氛也消除了。
郭子仪有八子七婿，都是朝廷重要官员。孙子则有数十人之多，当孙子来问安，他都无法分辨谁是谁，只是颔首而已。有一出戏《打金枝》，反映了他家兴旺热闹的场面。戏的大概内容是，郭子仪七十大寿，全家人前来拜寿，只有他的六儿媳升平公主没到。儿子郭暧气愤之下打了金枝玉叶般的公主，还斥责道：“你依仗皇父就不来拜寿，我父还不愿意当皇帝呢！”郭子仪知道儿子打了“金枝”以后，带着儿子去向代宗皇帝请罪。代宗对郭子仪说：“儿女闺房琐事，何必计较，老大人权作耳聋，当没听见这回事算了。”郭子仪谢过皇恩，回家后把儿子痛打一顿，小两口又和好如初了。
因此，尽管鱼朝恩、程元振在代宗面前屡进谗言，对郭子仪横加诽谤。但由于他为人坦荡，居功不傲，忠于朝廷，没有什么把柄可抓，每次都化险为夷，得以常保功名，长寿而终。
史称郭子仪“功盖天下而主不疑，位极人臣而众不嫉”。郭子仪的确堪称是一位封建时代的军人楷模。