等到唐代宗即位，各地的节度使率领军队，陆陆续续会集在一起。回纥首领看见大唐军队都集中在一起，就很快改变了主意，愿意一起同叛军作战。于是仆固怀恩，就率领回纥军队作为先锋，郭英乂鱼朝恩作为后军，从陕州浩浩荡荡出发。雍王还是在陕州坚守，与他们遥相呼应遥，互相支援。
各路大军都向东京进攻，泽潞节度使李抱玉，与河南等的元帅将军，一起率领军队也过来参战，一直到了东京北郊，接着就攻破怀州，史朝义率领师十万大军在横水迎战大唐军队，大唐军队很快就展开进攻，史朝义的军队阵形严整，一时半时攻破不了。就在这时，镇西节度使马璘大声喊道：“形势太危急了，如果不拼死进攻，怎么能够打败叛军呢？”说着，立刻就一马当先，勇敢地冲进叛军的一字长蛇阵里。叛军的先锋队伍都是盾牌手，霎时挡住了去路，马璘就用长枪打掉两面盾牌，纵马猛冲过去。于是，大唐军队的将士就像潮水一样跟进，无法阻挡，不一会，史朝义的叛军就纷纷败阵，溃不成军。叛军拼命地逃跑，一直跑到石榴园的老君庙。刚刚休息一会，又被大唐军队追上，双方激战到一起，叛军又被大唐军队杀死了许多人。于是，叛军无心再战，继续拼命的四处乱跑，形势十分混乱，叛军人马相互践踏，尸体堆满山谷。这一仗大唐军队取得了伟大胜利，大唐军队杀死叛军六万人，俘虏二万人。史朝义只率领几百个骑兵，向东逃跑到了郑州，怀恩乘胜攻占了东京，又乘胜夺取河阳城。接着就马不停蹄继续追击史朝义，追到了郑州再次展开激战，又取得大的胜利。没有办法，史朝义又向东逃跑来到汴州，叛军陈留节度使张献诚看见史朝义狼狈逃窜的样子，感到了大势已去，就叫士卒关闭城门不让进去，史朝义就掉转方向逃向濮州，渡过黄河向北逃跑。怀恩亲自率领军队紧紧追赶史朝义。史朝义一边作战，一边逃跑，这个时候，叛军睢阳节度使田承嗣等人率领军队过来救援史朝义，就与怀恩鏖战半天，又被打得大败，田承嗣和史朝义只好一同逃到了莫州。看到史朝义大败，许多叛军纷纷向大唐军队投降，史朝义已经是兵败如山倒，已经走进了穷途末路。田承嗣和朝义坚守着莫州城，勉强支撑着度过一个残年。
到了第二年，大唐王朝已经改元广德，皇帝再次命令各路大军向叛军进攻，加封怀恩为河北副元帅。怀恩就命令兵马使薛兼训郝廷玉等，会同田神功辛云京两个节度使，一起合力围攻莫州。史朝义率领叛军屡次出城作战都屡次大败，没有一次胜仗。大唐军队乘胜进攻，眼见着莫州就要被攻破，田承嗣知到已经没法防守了，也感到了无能为力了，就劝史朝义逃往幽州去找救兵。史朝义只好同意。立刻就率领精锐骑兵五千，从北门突围出去，连夜逃跑。田承嗣却立刻就向大唐军队投降了，还把史朝义母亲妻子儿女，一起献给了大唐军队。
史朝义踉踉跄跄地向北逃跑，一口气就跑到了范阳城下，但是只见城门紧闭，城上已经竖起了大唐的旗帜。史朝义吓了一跳，这一吓非同小可，险些儿跌下马来。不一会就看见城楼上站着一员大将，却是面熟得很，仔细一想，记得是范阳兵马使李抱忠，他就招呼李抱忠：“你为啥背叛我？你应该知道，你吃的是我的俸禄，理所应当为我尽忠，我因为莫州被围，特意前来搬救兵，赶紧发兵去救援吧。你们如果还知道君臣大义的话，就应该立即洗心革面，好好悔过，我们一起来支撑大局啊。”史朝义的话还没有说完，李抱忠就大声回答道：“天不佑燕，唐室复兴，现在我等已经归顺大唐，难道还能反反复复吗？男子汉大丈夫应该以使用诡计为耻，你可要三思啊！希望你赶紧离开，自己保全自己吧。”史朝义听力这些话，寻思半晌才说道：“我今天还没有吃饭，能不能赏给我们一顿饭吗？”李抱忠说：“好吧。”于是，就让士卒拿出饭菜给史朝义他们吃。刚刚吃完，就听到远处有喊杀声，恐怕是大唐军队又追来了。没有办法，史朝义就迅速地逃往广阳。广阳也是闭门不让进去。史朝义又想到去投靠奚族或者契丹。但是一看大部分骑兵都已陆续离开，而且范阳留守李怀仙，又率领士卒前来追赶。史朝义料到难以保全性命，只好上吊自杀了。