唐显庆二年（657年）二月，玄奘奉旨伴驾洛阳。这次高宗到洛阳是为了疗养和避暑，命玄奘随从，玄奘只好由宫中凝云殿西阁起身，随皇子等人一起来到洛阳。
高宗到洛阳后先住积翠宫。四月中旬，气候转暖，高宗转往明德宫避暑，玄奘伴从，住玉华殿。由于皇帝幸游返回时间长短不定，且玄奘心在译经一事，无心游玩，高宗便答应玄奘要求，让玄奘返住洛阳积翠宫暂且译经。五月，玄奘召慈恩寺弟子5人前来积翠宫译经，又因诸多不便，只好停译。
出家人毕竟曾有过家，洛阳是玄奘的老家，这次伴驾洛阳，玄奘已58岁。时距他回国之初赶到洛阳与太宗第一次会面已经有12年。而距他17岁跟着二哥陈素离开洛阳净土寺转往成都又相隔41年。此时陪伴皇帝身边也并没有多少事情可做，译经工作又有诸多不便，于是向高宗告假，借伴驾之际，回乡扫墓。高宗允准。
真是“少小离家老大回，乡音无改鬓毛衰。”58岁的玄奘回到故居缑氏镇的陈河村，旧貌依稀可见，仍然能引起他童年时代的许多回忆。陈河村风景依然秀丽，但查访亲故大多已不在人世，已经没有几人能认出这位当年的陈了。陈家古井依在，但美滋滋地喝着陈家井水的人，及至玄奘到来，却已认不出来。几经曲折，在亲族中总算寻访到早年嫁给瀛州张姓人家的姐姐。姐弟相认，恍如隔世，不禁老泪纵横，悲喜交集。在老姐姐的指引下，玄奘来到凤凰谷的父母墓前祭拜。墓堆犹然可见，只是坟苑塌陷，周围荒草掩乱。回想起父母抚育之恩、慈爱之情，姐姐忍不住潸然泪下。玄奘跪在墓前，默念往生经，超度地下之灵，寄托姐弟的哀思。
祭奠之后，玄奘卜算胜地，决定将父母坟址迁往洛阳西原安葬。但仅此一事玄奘却无能为力，且印度僧人来访相随，只好向高宗上表说：
“昨日蒙敕放玄奘出三两日检校。但玄奘更无兄弟，惟老姐一人。欲收捧遗柩，改葬西原。卜地有期，用此月二十一日迁葬。今观葬事尚寥落未办，所赐两三日恐不能周备，望乞天恩听玄奘葬事了还。又婆罗门上客今相随逐，过为率略，恐将嗤笑。不任缠迫忧习之至。谨附表以闻。伏乞天覆云迥，曲怜孤请。”
高宗览表，哀其情真，允其所请，下令地方，营葬所需，并宜公给，一切费用朝廷支付。改葬之日，玄奘亲做佛事，念了不少经文。仪式虽很简单，但围观的洛阳道俗却有上千人。家乡的人们有缘目睹了高僧主持的这次佛事活动。
父母改葬之后，玄奘似乎对生死无常有了更为深刻的理解，他想避开都市的喧嚣，长住少林，在有生之年专心译完从印度带回的经典。这一想法，在回国之初与太宗第一次会面时就提出过，太宗不许。这次回乡扫墓迁坟之后，又向高宗皇帝提出隐居少林为国译经的请求。玄奘连上两道奏章，奏章上说：自己风烛残年，来日无多，精力渐趋衰弱，希望能“毕命山林，礼诵经行”，译完经典来报效国恩。今已翻出六百余卷，皆三藏四含之宗要，大小二乘之枢轴，吾深知用此奉报国恩，如沧海一粟，不能尽意。然佛经翻译，必先静心，除学识之外还须借定慧二力，方能译出真味。今愿虑禅门澄心定水，制情猿之逸躁，挚意马之奔驰。若不敛迹山中不可成就。今少室山，岭嶂重叠，峰涧多奇，含孕风云，包蕴仁智，少林伽蓝，佛事尊严，房宇闲邃，实可归依。如蒙陛下听许，则绝嚣尘于众俗，卷影迹于人间，陪麋鹿之群，随凫鹤之侣，栖身片石之上，庇影一树之阴，守察心猿观法实相，外不累于皇风，内有增于行业，以此送终天之恩也，时间翻译，无任乐愿之至。
奏章感情真挚，发自肺腑，字里行间显露出玄奘晚年对山林的向往，隐隐然也透露出长居都市接应人事的疲惫。高宗看过表章后不许，答书曰：“法师津梁三界，众生所望。然道德可居，何必太华叠岭；空寂可舍，岂独少室重峦。身居都市，成译经大业，岂不胜过古人？”此时玄奘虽然已经是快到花甲之年了，但他毕竟是太宗笔下的“法门领袖”，高宗时代联系佛门的桥梁，作为佛教界的一面旗帜，皇帝希望他能飘扬在京城的上空，作为皇帝的门面，高宗又岂能让他敛迹深山。玄奘去少林寺译经的想法未能如愿，只好一切随缘，不再强求。
唐显庆三年（658年）二月，玄奘随驾返回长安。这次伴驾洛阳，足足耗去了玄奘一年时间。在他归国后的19年中惟有这一年译经篇数最少。
回到长安后的同年二月至七月，印度僧人那提和阿翟多相继来华，应酬事多，译事不专。那提是唐永徽六年（655年）来华的，携带大小乘经卷500余夹，含1500余部。后奉旨往慈恩寺相助译经。他是龙树的门人，信仰大乘空宗，与玄奘信仰的大乘有宗不是一派，所解经义又与玄奘唯识宗体系多有相违，这便是他当时译经不专的主要原因。也正是由于他和那提的关系，曾引起过后人对玄奘的诸多评论。（欲细加了解这段情况，可看季羡林先生的《大唐西域记校注》序言第119页，可略知梗概。）
也正是由于上述原因，高宗皇帝于唐显庆三年（658年）七月让玄奘住进了离皇宫很近的西明寺，让他静心疗养。为此玄奘从慈恩寺移住西明寺一年零三个月（658年7月～659年10月）。
当时西明寺是高宗为孕中的武后所建，玄奘移住之时，西明寺才建成两年时间，寺院虚静。高宗皇帝依玄奘所奏，让玄奘的弟子窥基担任住持，并让玄奘挑选50名慈恩寺弟子同住。该寺建筑按闹中取静之意设计。正门面临通街大道，外围是热闹的集市，院内则青槐掩日，绿水环绕，清静异常。玄奘在此译成《阿毗达摩大昆婆娑论》200卷，《阿毗达摩达蕴足论》12卷，还译成《成唯识论》一部。前两部是大乘有宗理论的重要经典，后一部《成唯识论》则是玄奘一生所译经论中最为重要，并且对慈恩学派及唯识宗影响最大的一部经典。因为后世中国、日本、朝鲜的唯识宗基本上都是以这本经典为该门的根本依据的。
《成唯识论》的译成时间，大约是唐显庆四年（659年）的十月。此书依据世亲的《唯识三十颂》译出。《唯识三十颂》号称印度佛教“一本十家”。十家者：护法、德慧、安慧、亲胜、难陀、净月、火辩、胜友、胜子、智月。皆印度佛教史上著名佛学大师。玄奘翻译《唯识三十颂》时，按十家之言分别译出，不主糅译。初译之时，玄奘口授，嘉尚笔录，窥基正义，普光校勘，神坊润文。数日后，窥基建议：“参糅十家之言，糅合译之，集于一本，以备后世遵循。如果十家之言分别译出，后世情见各异，禀者无依。”玄奘称善，当即采纳，返工重译，并调整分工，变嘉尚笔录为窥基笔录，而嘉尚担任正义。可以看出，玄奘重用窥基即在此时，窥基实得玄奘唯识宗真传便与此本经论的翻译分工有关。这便是中国唯识宗能由窥基在玄奘之后发扬广大的根本因由。
唐显庆四年（659年）十月的一个清晨，西明寺院内的空气格外新鲜。在青灯黄卷之下又熬了一夜的玄奘，走出静室，想放松一下，他年近花甲，走路也拄上拐杖了。他慢慢向译经大殿走去。他要按每天的惯例，去译经大殿安排当天的译经工作，并向助手口译经典。不料刚走到译经大殿门口，忽觉头晕目弦，心口痛闷，猛地眼前一黑，险些栽倒。这时窥基、慧立等人早已到译经大殿等候师父，看见玄奘走路不稳，赶忙上前扶住。弟子们见玄奘脸色微黄，两腿发软浑身无力的样子，忙背起师父送到静室休息。
玄奘闭上眼睛休息了一会儿，气色渐渐缓和过来。窥基问：“师父，好点了吗？”玄奘深深叹了口气说：“窥基啊，看来我真是老了，要把从印度取回的佛经全部译完，恐怕等不到那一天了。唉，人生苦短，瞬忽即逝，我还有许多的经典要译啊！”说着，两滴清泪从眼角滚落下来。
在旁的窥基、慧立等弟子都落泪了。“师父，你太劳累了，好好休息几天就会好的。”
过了几天，玄奘按照他的译经计划，准备译《大般若经》。他对窥基说：“你去慈恩寺把《大般若经》拿来，我记得有三种版本，你都拿来，我想在临死前把这部大经全部译完。”
窥基劝道：“师父，你病成这样，还没有彻底复原，干脆就在这西明寺好好疗养一段时间吧。”
“别说了，窥基，我所剩下的日子已经不多了，不把《大般若经》译完，我怎么能闭得上眼睛呢？”
窥基等众弟子知道规劝无用。往常每次师父病情发作，稍等好转便立刻译经，众弟子中没有哪一个能劝阻得住。就是这次来西明寺，皇帝让他静心疗养，他还是译经不辍。
窥基遵命去慈恩寺拿来三个版本。玄奘对他说：“我看这部大经非三五年时间不能译成。替我给皇上拟一个折子吧。我已经老了，精力不济，长安城里意料不到的事情还很多，我也应付不了长安城里的喧嚣。少林寺是个理想之地，但离京城太远，皇帝不允。就请皇帝允许我们到东都洛阳的玉华寺，集中精力翻译这部大经吧。”
高宗接到奏折，准许玄奘携带译经人员迁居玉华寺译经。玄奘奉命由西明寺移居玉华寺。时为公元659年10月底。
玉华寺其地在今陕西铜川市北的玉华山，当时属东都洛阳境地。其前身名为玉华宫，651年即太宗去世后的第三年改宫为寺。当年玄奘伴驾玉华宫，请太宗为新经题序，太宗召集文武百官，令上官仪当众宣读御制《三藏圣教序》，当众表彰他的取经事迹。那时玄奘52岁，正是生命中最辉煌的时刻。而今重回玉华宫，往事如昨，物是人非。雄才大略的太宗皇帝已去世10年，贞观时代的老臣在朝的也所剩无几。此时惟一剩下的一位顾命大臣长孙无忌，以谋反罪被削官流放，旋即在流放地被勒令自缢。长孙无忌的党羽全部覆没，或被杀，或遭流放，霎时土崩瓦解。这预示着高宗为武皇后出台参政铺平了道路。
这次迁居玉华寺，玄奘主要是为离开喧嚣的京城而能静下心来译经。而武皇后的出台似乎与他的译经大业已关系不大。因为已到晚年的玄奘，自觉来日无多，他要最后完成一部大经的翻译，准备与生命作一次最后的拼搏。
迁居玉华寺后，他慎重地将《大般若经》的三个版本拿出，吩咐弟子：“这三种版本都要仔细参照，斟酌一字一句，不可有丝毫疏漏，倘若误译一字，都会贻误后人。这部大经，几百年来虽然有人译过，但至今还没有全译本。我们要给后人留下一个没有讹误、没有缺憾的译本。”
玄奘一面翻阅经本，一面对众弟子说：“这部《大般若经》，全称《大般若波罗密多经》，‘般若波罗密多’，是印度语，意思是‘智慧到彼岸’。旨在说明宇宙万物都出于‘因缘和合’，‘自性本空’，所以俗称‘空经’。国内已经译出的节译本有：东汉末年月氏人支谶译的《道行般若经》，支谶弟子越恭明译的《明度无极经》，三国时颖州人朱士行译的《放光般若经》，西晋时祖籍月氏僧人竺法护译的《光赞般若波罗客经》，西域僧人九摩罗什译的《大品般若》和《小品般若》，这些译本都选自全经中的部分章节节译，未能通译。后人看到的只是原经中的片言只语，无法领略原作曲奥精深的内涵，甚至曲解原意。”
“这部大经共20万颂，长达600卷，是从印度取回经典中的最长的一部。最早该经在印度有四处收藏：一是王舍城鹫峰山；二是给孤独园；三是王舍城竹林精舍；四是他自在天王宫。现在取来的这三种版本，便是前三处收藏的版本。你们先读梵文原本，再参照国内节译本，可以发现很多问题，为通译全本做好准备。”吩咐完毕，又鼓励所有译经弟子，“人人努力加勤恳，勿辞劳苦。”“文有疑错，即校三本以定之。”
唐显庆五年（660年）正月初一，长达600卷的《大般若经》开始正式翻译。至唐龙朔三年（663年）十一月二十二日，历时四年时间这部大经方告译成。
译完最后一卷，玄奘用颤抖的手捧着，喃喃地说：“佛祖啊，我终于完成了！”一阵轻松，如释重负，犹如一块巨石从心头落下。这是4年来从未有过的轻松。众弟子为这部镇国大典的完成，无不喜悦欢欣。玄奘设斋庆贺。又将经卷“由肃诚院请至嘉寿院斋堂当众宣讲”。
此时正是寒冬季节，寺院内的李子树在不是开花的季节，屡次开花，而且所开的花瓣都是六瓣，鲜艳无比。众弟子甚觉怪异。慧立拿着摘来的花瓣说：“这好有一比，六瓣花象征《大般若经》讲的六种行持，布施、忍辱、持戒、精进、禅定、智慧，人有了这六种行持，便会开出异样的花朵果实。”窥基说：“这是祥瑞之兆，是大自然对这部佛学大典的庆贺。苍天有眼，佛门弟子的功德，世人是不会忘记的，总会有人认可的。”
译完《大般若经》，临近岁末，因弟子们前三年的春节都是在寺院的译经工作中度过的，玄奘吩咐弟子，现在该好好休整一下，待过完年再译《大宝积经》。吩咐窥基：“你现在替我草拟一道奏章，告知皇帝，大经译成，并请皇帝御制经序。”窥基遵命。
十二月初七，通事舍人冯义来玉华寺，宣示皇上为《大般若经》所写的序文，全寺一片欢欣。次日玄奘上表谢恩。
唐麟德元年（664年）大年初一，65岁的玄奘五更天又起床，推开窗户，只见瑞雪纷纷扬扬，预兆着今年五谷丰登，农事兴旺。玉华寺格外寂静，而寺外已沉浸在新春佳节的鞭炮声中。一年又过去了，玄奘又增一岁，回想起来，这一生显得太匆忙了。10岁离开陈河村。13岁，在洛阳被破格录取，做了净土寺的沙弥。17岁洛阳城被瓦岗军所围，为避战乱，奔走成都，游学荆赵。29岁到达印度，在印度取经留学17年。46岁回国，译经19年。今年整整65岁。这一生可曾虚度一时一刻？想到这里，玄奘展开《大宝积经》准备翻译。提起笔仅译《大宝积经》四行，忽觉心口阵阵作痛，他用手按在胸前，又提起笔，无奈身体越发无力，大汗淋漓，颤抖的手再也无法写下去，玄奘吃力地一步一步挪向床榻，这一倒下去从此绝笔，再也没有力量起来译经。
正月初四，玄奘召译经弟子说：“吾来玉华，本缘《般若》，今经事既终，吾生涯亦尽。国中各地寺院来信纷纷要求翻译《大宝积经》，无奈气力不足，不复办此，只有留给后人了。”“吾无常之后，殡葬需节俭，可竹席裹送，择山间僻静处安置，勿近宫寺。不净之身宜须屏远。”门徒闻之哀叹。
正月初九，几位弟子有事要外出，玄奘对他们说：“好好去吧，就此告别，回来也不能相见了。我必死在玉华寺。”又对门人说：“对于经论有疑问的地方，你们要赶快询问。”
正月初十，有弟子高昌僧玄觉向法师陈述自己所梦，见有一浮图庄严高大，忽然崩倒，梦中惊醒，故来相告。玄奘说：“非汝身事，此是吾灭谢之徵。”当天傍晚，玄奘于晚饭后在院内踱步，跌倒，脚脖挫伤。
正月十六日，玄奘梦见千百人，形容伟大，俱着锦衣，手执奇花异宝送于卧室，室外彩车锦旗，并奏音乐。玄奘将此梦告知玉华寺住持慧德。慧德善解梦幻，告玄奘曰：此乃迁居恭迎之兆。
临将灭寂的玄奘，希望往生弥勒佛处。听到慧德大师解梦，心中一阵高兴。次日召集玉华寺僧众，对大家说：吾将往儿率净土，愿将一切身外之物馈赠各位有缘之人。随即将太宗、高宗赠送的云水僧衣等物，全部施散众人。
正月二十四日，玄奘吩咐弟子嘉尚，将所译经典统计编目。嘉尚报曰：自贞观十九年（645年）五月始，至麟德元年（664年）正月终，历19年，共译经论74部，合1335卷，计1300多万字。其中篇幅最长的是《大般若经》600卷，其次是西明寺所译《大毘婆娑论》200卷，再次是在慈恩寺所译的《瑜伽师地论》100卷……玄奘听后，自庆晚年没有虚度，也遗憾从印度带回657部经没有全部译完。
二月初四，玄奘停止进食。右身侧卧，两腿重叠，右手托颈，左手伸至膝盖，如同如来涅槃卧像姿势。弟子问曰：“这是什么相？”答曰：“勿问，妨吾正念。”
二月初五凌晨，道宣、窥基、彦宗、嘉尚、神仿等所有译经弟子齐聚床前，玄奘仍侧身而卧，紧闭双眼，呼吸已十分微弱。窥基含悲轻问：“师父得生弥勒界吗？”答曰：“得生。”言毕，身体由足部开始渐渐变冷，最后头顶仍保留一丝暖意，呼吸渐渐停止，静静地去了他所希望的世界。
玄奘二月初五圆寂，二月初七高宗始知噩讯。早在二月初三，朝廷官员检校翻经史许玄备上奏：“大师因患足疾已卧病。”高宗立即派御医前往。二月初七，御医张德志、程桃捧二人赶到玉华寺，未进山门，已听到满寺悲声。二人顿足大哭，懊悔来迟，玄奘去世已两日。当天地方刺史见到慌慌张张的御医，才知大师已亡，急报朝廷。高宗闻报，只恨报迟，为之罢朝。数言：“朕失国宝矣！”翌日，又对群臣说：“大师圆寂，是大唐的莫大损失，从此佛门失去栋梁之才，寺院弟子失去导师，这就如同茫茫苦海之中舟楫突然折断，昏暗的房间突然失去了灯炬。”
四月十四日，择定墓地、请旨恩准诸事结束，玄奘遗体出殡。墓地由慈恩寺弟子择定在长安城东20公里处的白鹿原（又名霸上，今西安市东郊狄寨乡和炮里乡）。京城僧尼、士庶各界都参加殡葬送行行列。白幢、素盖、挽幛彻地连天，长安城方圆500里以内送行者百万。长安市商以彩丝3000匹结成美妙的涅槃舆相送。入夜，白鹿原上烛光一片，一根根蜡烛吐着火苗，与天上的群星交相辉映。当晚有上万人自愿守灵、露宿在墓旁。慈恩寺弟子3000全部来到墓旁，跏趺而坐，念亡生经超度亡魂。