请让我和朔方军联兵进逼魏州城，向史思明挑战，史思明考虑到嘉山之败的经验，必定不敢轻易应战。这样耗下去，打持久战，我们就能够收复邺城。如果安庆绪败死，史思明就会失去号召力，难以号令叛军。”然而观军容宣慰处置使宦官鱼朝恩却认为这样做不妥，本来很好的机会就这样失去了。
郭子仪等节度使包围邺城自冬历夏，历时半年之久，唐军层层筑垒，重重穿堑，又决开漳水灌城。邺城于是旦夕不保，城内早已没有粮食供应了，甚至一鼠值钱四千。然而由于唐军无统帅，进退不一，致使久围不下，镇西节度使李嗣业中流矢而死，唐朝的军队已经财力枯竭，粮食耗尽，军中人心思变，上下也分崩离析，已有解体之忧。
史思明见时机成熟，才率领军队从魏州进军邺城，命令诸将在离邺城五十里处扎营，每个营中击鼓三百面，依靠其声势支援安庆绪的部队，威胁官军。史思明又从每个营中挑选精锐骑兵五百，每天到城下掳掠，官军如果出来交战，这些骑兵就四下逃散，回到各自的军营中。这样官军各路的人马牛车每天都有损失，甚至采集柴火都很艰难。官军白天防备，叛军骑兵就在夜里来骚扰；如果夜里防备，叛军则白天骚扰。当时天下饥荒，军队所食用的军粮都是从南边的江、淮地区和西边的弁州、汾州地区运来的，舟车相继不断。于是史思明派壮士窃取官军的服装和号令，督促运粮者，斥责他们缓慢，任意杀戮，使得负责转运的人非常害怕官军。他们又在运送粮饷船车聚集的地方，偷偷放火焚烧，聚散无常，他们自己倒是能相互识别出来，但巡逻的官兵却是拿他们没有一点办法，怎么也抓不到，也侦察不出行迹。因此官军缺乏粮食，人心不稳。史思明于是率领大军径直兵临城下，与官军很快就要决战。
三月初六，唐军步骑数十万列于滏水之北，史思明亲自挂帅领五万精兵和唐军对抗。唐兵刚开始以为是敌人游兵，并未在意。史思明却不顾众多的唐兵，带兵猛冲。李光弼、王思礼、许叔冀、鲁炅部队与敌人交上了锋。双方实力相当，拼了个你死我活。稍后的郭子仪正欲布阵助战，突然刮起一阵狂风，飞沙走石，天地顿时昏暗一片，伸手不见五指。两军皆大吃一惊，再也无心恋战。唐朝军队往南溃逃，史思明的叛军向北方逃散。辎重武器散落一地。郭子仪朔方兵原有战马万匹，在溃退后只剩下三千，器械也大多遗弃。到达河阳，郭子仪打算坚守河阳城，因部队相互之间惊扰，又逃向缺门。这时部将都陆续赶到，点检人马，才有几万，大家商议后决定放弃东京，将军队撤退守住蒲州、陕州。都虞候张用济说：“蒲州和陕州连年饥荒，不如坚守河阳，史思明的部队假如前来攻打，我们就尽全力死守河阳。”郭子仪听从了。唐军刚刚部署完，敌将周挚就引兵而至，见唐军已早有防范，只好退去。
史思明得知官军败退，从沙河整顿兵马，还军邺城南面。安庆绪得到了郭子仪军队败退时尚在营中的粮食，有六十七万石，于是就与孙孝哲、崔乾佑等策划关闭城门不让史思明进入。这时各位将领说：“我们现在怎么能够背叛史王呢！”而史思明既不和安庆绪互相告知彼此的情况，也不南下追击官军，只是每天在军中宴请士卒。张通儒、高尚等对安庆绪说：“史王远道而来，并率兵救我们于危难之际，我们应该知恩图报，去感谢他才对。”安庆绪说：“随你们去吧。”史思明见到张通儒、高尚等，多加赏赐，让他们回去。过了三天，安庆绪还不来。于是史思明秘密地把安太清召来，指派他去诱骗安庆绪，安庆绪无计可施，于是派安太清向史思明上表称臣，并说等史思明安顿好部队入城后，就向史思明交出皇帝玉玺。史思明看了表书说：“何必如此呢！”并把表书拿出来让将士们看，将士们都呼喊万岁。因此史思明就亲手写信安慰安庆绪，并不要求安庆绪称臣，只是说：“愿与你成为兄弟，互相帮助。我们之间地位平等，鼎足而立，这还说得过去；如果你向我称臣，我实在是不敢当。”并把表书封缄后还给安庆绪。安庆绪十分高兴，于是希望能和史思明歃血结盟，结为兄弟，史思明答应了。于是安庆绪带领三百名骑兵来到史思明军营中，史思明命令士卒全副武装防备安庆绪，然后领着安庆绪和他的几个弟弟进入庭中。安庆绪叩头便拜说：“作为臣下我平庸无能，丧失了东西二京，并陷于重兵包围之中，没料到大王看在我父亲太上皇的情分上，从远处来救援，让我能从危险的境地中转危为安，你对我的恩情就像海水那样深，终生难以报答。”
史思明忽然大怒说：“丢失两京，又算得了什么。你身为人子，杀父篡位，天地所不容。我是替太上皇讨伐你这个逆贼，怎么会让你讨好的假话欺骗呢！”当即命令左右的人把安庆绪连同他的四个弟弟以及高尚、孙孝哲、崔乾佑等杀掉。张通儒、李庭望等人都被授以官职。随后史思明整理军备，入主邺城，收编了安庆绪的兵马，把府库中的财物分赏给将士，安庆绪原先所占据的州、县以及兵马全归史思明所有。史思明又派安太清率兵五千攻取怀州，于是留安太清镇守怀州。史思明原本打算率领兵马将自己的势力向西发展，但是想到自己的后方还不是很稳定，因此他就叫自己的儿子史朝义留下来镇守相州，而他自己则班师返回范阳。不久，史思明自称大燕皇帝，改元顺天。立妻辛氏为皇后，史朝义为怀王，周挚为相，李归仁为将，改范阳为燕京。
观军容宣慰处置使鱼朝恩嫉妒郭子仪的才能，对郭子仪怀有成见，于是把滏水之战失败的原因推在郭子仪身上。七月，肃宗召郭子仪还京，以李光弼代为朔方节度使、兵马元帅。郭子仪宽厚服众，李光弼则治军严整，朔方将士皆怀念郭子仪的宽厚而忌惮李光弼之威严。他们都不希望郭子仪离开，于是要求中使，希望他能够想办法留住郭子仪。屯驻河阳的左厢兵马使张用济与诸将商议，想率精兵突入东京，驱逐李光弼而迎郭子仪，都知兵马使仆固怀恩和右武锋使康元宝表示反对。李光弼带数千骑东出汜水，张用济单骑来迎，结果被李光弼以他来晚了为借口杀死，由李光弼的部将辛京杲代领其众。仆固怀恩因有五百骑兵陪同前往而幸免于难。朔方兵纷纷离散，仅剩两万人。不久，李光弼又被任命为幽州长史、河北节度使，命他收复河北之地。
九月，史思明让史朝清留守范阳，而其他各郡的太守各自率领三千兵马和他一起去攻打河南等地。他把各路人马分为四部，令狐彰一部，从黎阳渡黄河攻打滑州，他与史朝义、周挚分别从濮阳、白皋、胡良渡河，约好于汴州相会。
李光弼知道了情况后赶到汴州，并命令汴滑节度使许叔冀一定要在汴州坚持抵抗十五天，然后就会有援兵来救援。部署完毕，李光弼回到洛阳。许叔冀抵挡不住史思明的进攻，就与濮州刺史董秦及其将梁浦、刘从谏、田神功投降。史思明乘胜追击，向西继续攻打郑州，一下子洛阳的形势变得非常紧张。本来洛阳东面为汜水有成皋之险，东南有崿岭、龙门伊阙可凭险而守，但防线太长，朔方兵力不足，李光弼决定放弃洛阳，坚守河阳。河阳北连泽、潞，与王思礼部相临，既可进取，又可退守，抵挡叛军向西进攻的步伐绰绰有余。当即李光弼驰书河南尹，命令他组织官兵将老百姓疏散到城外以避战争之灾，接着指挥士兵将军需物资运抵河阳守备。夜晚，李光弼才到达河阳，共两万人，粮饷只能维持十天。
二十七日，史思明兵进入洛阳，得到的只是一座空城，叛军怕其中有诈，疑为官兵的空城之计，迟迟不敢进入宫内，将队伍驻扎在洛阳东北的白马寺南，在河阳城南筑起一道月城防备唐军。这时，郑、滑等州也相继陷落。
十月，肃宗得知东都复失，很是着急，想要亲征，被群臣劝阻。史思明则开始率军进攻河阳，李光弼凭借险要的地势死守河阳，与比自己数量多几倍的敌军对抗，战争进行得异常艰苦。他治军严明，下令后退怯战者一律斩杀。为激励将士杀敌，李光弼命令众将领说：“你们都看我旗子的号令，如果我的旗子挥动得慢，就听凭你们选择有利时机出战；如果我迅速向地上挥动旗子三下，你们就全军一起突击，勇往直前；如果谁胆敢逃跑后退，一律格杀勿论！”然后李光弼又把一把短刀放置在自己的靴子中，说：“战斗是危险的事情，我身为国家的重臣，不能够死于叛军之手，万一战败，大家在前面死于敌手，我就在此地自杀，决不会只让诸位战死于沙场而自己却苟活于世。”于是众将领出战。不久，郝廷玉从阵上逃下来，李光弼望见，大惊说：“郝廷玉逃下阵来，我的计划就危险了。”于是命令左右的人去把郝廷玉杀掉。郝廷玉说：“我的坐骑中箭，并非我 怕死而逃。”使者驰马来报告李光弼。李光弼就下令叫部下们给郝廷玉换了一匹马，让郝廷玉继续到前线冲锋陷阵。仆固怀恩和他的儿子开府仪同三司仆固场与叛军交战稍有退却，李光弼就命令左右的人去把他们的头割下来。仆固怀恩父子看见李光弼派来的人提刀骑马而来，就重新上前决战。李光弼不停地挥动着手中的指挥旗，他率领的部下们都勇往直前，毫不退却，喊杀声震天动地。
上元元年（760年）二月，李光弼进攻河阳北部的怀州，在沁水击败了赶来救援的史思明的军队，杀敌两千多，在怀州城下又大破安太清兵。四月，唐朝的军队又在河南西渚打败了史思明所率领的部队，杀敌一千五百。李光弼在围攻怀州一百天后，终于攻下该州，生擒安太清。史思明则在这年五月进入洛阳地区与唐军对峙。
上元二年（761年）正月，史思明见唐军坚守河阳一年多了，却仍然丝毫没有撤退的迹象，决定用调虎离山之计诱唐出兵。于是暗地里派人到唐营中散布说，洛阳史思明兵皆是河北人，一直在前线打败仗都想回故乡了，大家都厌倦了残酷的战斗，军心不稳。有人听了便向鱼朝恩建议唐军应主动出击。不懂军事的鱼朝恩觉得很对，屡屡向肃宗进言，肃宗听取其一面之辞，命令唐军进取东京。
李光弼分析形势，认为敌人现在的实力还非常强大，不可贸然出兵，他向肃宗奏报，反对从河阳出兵。仆固怀恩与李光弼有个人恩怨，这次也附和鱼朝恩，对皇帝说如果出兵的话一定可以攻占洛阳，于是肃宗拒绝了李光弼的意见，不断派中使督其出战。皇帝的命令是不得违抗的，李光弼不得已让郑陈节度使李抱玉留守河阳，他与仆固怀恩带兵，会同鱼朝恩和神策节度使卫伯玉之兵攻打洛阳。