正像一部戏剧，高潮到来，也就接近尾声，魏源在积极参与漕、盐改革，提出振聋发聩的种种制御外敌方略，蜚声中外，自己的思想也昂扬到了极点之后，接着便是镇日沉寂，埋头书斋，皈依佛门，“圆寂”于寺庙。
在高邮州被莫名其妙革职，对魏源的打击太大，精神刺激太深。他的种种思虑，没有引起时人的重视，他的大声呐喊，没有得到国人的响应，他的种种方策，更没有使当轴者接受。他已知“事不可为”，写信给友人说：“值此艰难时，一切有为，绵不足恃。”他意冷心灰了，不再过问国事了，这里面大概也有耳不闻、心不烦的意思吧！
从咸丰三年到魏源逝世的咸丰七年（1853-1857），太平军沿江东下，浩浩荡荡，所至披靡，定都天京之后，立即《与周诒朴书》，见周诒朴《原刻净土四经叙》。
西征北伐，夺取长江中游的大片土地，清军的江北大营、江南大营亦随即被击溃；各地捻党首领齐集淮北雉河集，推张乐行为盟主，捻军铁骑随即驰骋中原大地，清军东追西逐，莫敢谁何；广东天地会于咸丰五年九月攻克广西浔州府，改浔州为秀京，建立大成国；同年十月，贵州东部苗族在张秀眉率领下，举行抗清起义。外国侵略者继续趁火打劫，英、法、美胁迫清政府签订《江海关组织协定》九款，使上海海关完全被外国人控制，上海成为了自由港；英、法、美先后在大沽和广州与清政府进行两次修约交涉，企图在中国攫取最多的殖民利益；俄国沙皇尼古拉一世下令侵占了中国的库页岛；英法联军以“亚罗号”事件为借口，发动了第二次鸦片战争。正在中国人民多灾多难，遍地战火的时候，咸丰五年（1855年8月2日），黄河在仪封县铜瓦厢决口，无数稻田成为泽国，无数居民被淹，流离失所。魏源书房外面的世界，够“热闹”、够惨烈的了。然而，自束于书斋中的魏源，日听长空雁叫，夜伴荧荧孤灯，对外面的世界视而不见，听而不闻，没有半点反应。
他已失去了写《筹河篇》时的经世热忱，失去了写《筹漕篇》、《筹鹾篇》时的进取精神，失去了写《筹海篇》时默远深思的风采，似已少漆室之忧了。
自然，这不是魏源在突变。他五十一岁重进科举试场时，便有“老女新妇”的自嘲；五十二岁初署东台县事不及一年，负债累累；五十三岁上《钱漕更弊议》于江苏巡抚李星沅，恰如泥牛入海；五十四岁呈《筹鹾篇》于两江总督李星沅，又似热锅上被泼冷水；五十六岁署兴化县事时，欲护堤保苗，遭管水利的上司的严重阻拦，且自己“积劳致疸疾，目黄体胀，痰壅气短，饮食艰，几殆”，“至秋虽瘳，而神明非昔矣”；当他正式任高邮州知州时，年已五十有八了。故他于高邮州任上，依然“专心经世大略，而于一州一邑若不屑屑为之者”。李瑚诠释此句道：“似指其晚年患病后，已不若官兴化时之孜孜勤政，加以终日整理旧稿，访求民隐之事，已略逊于前。”
魏源从道光三十年十月履任高邮州知州，到咸丰三年三月离职的两年半中，除吟诗多首外，整理了大量学术方面的旧着或新作论文，如下：《蒙雅》二十四篇；《〈说文〉儗雅叙》；《〈说文〉转注释例》；《〈说文〉假借释例》；《〈说文〉会意、谐声、指事、象形释例》；《释道山三条四列》；《释道山北条阳列》三篇；《释道山北条阴列》二篇；《释道山南条阳列》；《释道山南条阴列》二篇；《释道山北条弱水黑水》；《释道南条九江》；《释道南条汉水》；
《释道南条三江》；《释云梦》；《释江源》；《禹贡说》；《〈尧典〉释天》（与邹汉勋合撰）；《书赵校〈水经注〉后》；《辽史稿》；《上陆制军请运北盐协南课状》；《元史新编》。
同时，最后定稿《书古微》和《海国图志》。咸丰四年，又作《诗比兴笺序》等。
魏源自知仕途前景难以看好，又年老体衰，岁月不多，乃着力将自己的学术积累扒梳董理，为自己多年的学术思考画好最末的句号。
魏源晚年有个颇为人们关心且似乎有点扑朔迷离的问题，便是他对方兴未艾的农民革命运动的认识与态度。其实，这个问题的面目还是很清晰的。
飙发于道光三十年十二月初十日（1851年1月11日）广西桂平金田村的太平军，占永安，克全州，乘势北上，经湖南、湖北、江西、安徽诸省，顺流东下，莫之敢撄，于咸丰三年（1853）二月定都金陵，四月即出师北伐和西征。此时，魏源正在江苏高邮州任上，高邮已为太平军锋芒所向。魏源作为一个地方官，为尽“守土”之责，只做了一些禁骚扰、安民心的工作，并未与太平军直接抗衡。然而，这位忠于职守的州官，却在太平军定都金陵后一个月，被清廷以莫须有的罪名革职，随后赴署安徽巡抚周天爵军营，在宿州参与攻捻军务，却没有魏源与捻军直接抗衡的记载。
虽然魏源工作和生活的地点，与太平军、捻军近在咫尺，但查《魏源全集》，不见他对太平军、捻军有何评述。然而，对“官逼民反”这一历史事实，他却有较多较深的认识。青年时期，他第一次北上京城的途中，在河北见到清军镇压天理教农民起义后“黄沙万殍骨”、“大祲今苦饥”的惨境，不禁要“借问酿‘寇’由”。中年时期，他因会试同年师长治道光二十一年（1841）在湖北崇阳任知县时遇钟人杰起义而被迫死事，为师长治撰墓志铭，指出钟人杰之所以起义，是因为“崇阳圜万山中，胥役故虎而冠，凡下乡催征钱粮漕米，久鱼肉其民”，“豪民豪胥维蠹同”，并且认为“惟‘贼’犹存三代公”。他写《圣武记》时，更理性地指出：“‘贼’起多由吏饕民困”，“积怨则变”，“教‘匪’起事，皆以‘官逼民反’为词”。这些，都显示魏源对农民起义的原因有一定的理解，对农民起义怀有一定的同情心。
魏源对太平军虽然没有任何直接议论，但从下面这首诗看，他对太平军显然也没恶感。咸丰四年（1854），魏源写了一首名为《江头月》的杂言古诗。诗云：
欲融不融城上雪，欲落不落江上月。
江上月，皎如雪，清秋已过月再圆，可惜圆时照离别。离别何人在故乡，阵阵宵磷作作芒，乱如渔火弥长江。
可怜今夜月，正照秣陵城，秦淮歌管变鼓钲，长爪巨牙街衢行。
可怜今夜月，曾照庐州堞，八公草木风鹤声，沟垒高深为谁设？
可怜今夜月，方照金焦口，点点云鬟螺黛中，水战馀皇瓜渚守。
可怜今夜月，更照吴淞廓，城头谯鼓兼画角，蚌鹬相持几时活。
可怜今夜月，还照大海船，徐市至今方丈滴，蓬莱日日皆神仙。
江上月，皎如雪，可惜万古照离别。
长歌短谣君起舞，我击节。
魏源身在杭州，心里却想着秣陵城（金陵城）下的声声钲鼓，正在街道上巡逻的似长爪巨牙般的兵卒；又想起庐州城头，风声鹤唳，那里的深沟高垒为谁而设；又想起长江中的金山和焦山正似云鬟螺黛，水战正在那里的瓜州渡口激烈展开；更想起吴淞口边的城郭内，鼓角相鸣，小刀会正与清军激战，这种蚌鹬相争的局面何时能结束？人们何时能乐业安居？还想起了在大海上乘船去寻找神仙居住的蓬莱、方丈山的徐市。这首诗借抒写离别之情，描写长江下游遍地烽火之实。长爪巨牙，出自《诗经·小雅·祈父之什》：“祈父，予《江上月》。王之爪牙”，“祈父，予王之爪士”。有人认为，称金陵街头的太平军将士为“长爪巨牙”，是对太平军的赞美。这倒未必。于“爪牙”之前加“长”加“巨”，说明太平军威力大、战斗力强。这是符合咸丰四年太平军扫荡南方数省，刚刚定都金陵的实际情况的。“长爪巨牙”是采用写实手法。不过，诗中确没有魏源以前的诗文那样称起义者为“贼”为“寇”为“匪”，也许，魏源已把拥有天王和大批大王大将的太平天国视为一个足可与清朝廷抗衡的“新朝廷”，故有“蚌鹬相持”的比喻。
这首诗，表现了魏源对战争现实的高度关注。但是，这位已遁入空门、倾心佛经的魏源，又同时在诗中向往蓬莱三仙山，叨念着漂海求神的徐市。入世与出世，这时仍在魏源心中同时存在着、碰撞着。
这首诗最令人注意的是：魏源对两军对垒的认识是“蚌鹬相持”，各有势力，不相上下；他对双方均无褒无贬。魏源深深地担忧的，是在这种“蚌鹬相持”的情况下，虎视眈眈的外国侵略者立即会扮演着得利渔翁的角色。魏源的爱国深情，至老未减。
魏源还有《偶感》诗三首，其二云：
年来水旱与兵戈，南北东西事渐多。
乍喜蚁蜂安梦国，已离乌鹊斗银河。
城完各战蜗牛垒，燎至犹甘燕雀窠。
剩欲移家风鹤外，桃源何处有桑禾。
此诗作于咸丰二年。太平军大军已于先年十二月由岳州转入湖北，故其第一首中有“故园水陆已销兵”句。此首则与《江头月》相似，称太平军起义为“乌鹊斗银河”，把太平军与清军同等对待。同时，也抒发了自己欲逃避斗争，“移家风鹤外”，寻找避“秦世之乱”的桃源的心境。
虽然魏源有“官逼民反”的理性认识，对太平天国也无感性上的反感，因为此时太平天国正处于鼎盛时期，腐败、内讧等问题，还没有败露，但是，出身于地主阶级的封建士大夫魏源，对太平天国的革命性质不可能有真正的了解，这就决定他不可能去积极支持太平天国运动，更不可能去投身于这场伟大的革命运动。故当太平天国定都金陵后，他便“移家风鹤外”，“全家避兵侨兴化”。
然而，魏源始终也没有跟他的一批友人一样，与太平军作对。时任广西按察使的友人姚莹，屡向赛尚阿陈献堵剿太平军之策，又为湖南巡抚张亮基筹集抵抗太平军的军饷。友人陈起书在家乡湖南郴州筑起碉堡，率团练与太平军为敌，被俘后，拒与太平军合作，绝食而死。友人黄冕从新疆戍所回湘后，为巡抚骆秉璋筹划固守省会之策，以功补吉安知府；旋攻占吉安郡城；后又为曾国藩办理厘税，筹办军饷。友人王柏心多次为湖广总督张亮基及湖北巡抚胡林翼献计献策，以阻扼太平军在湖南、湖北的进军。同年好友徐鼐在家乡六合县招募团练，顽强地抗击太平军，捞得了一个“铁铸六合”的“美誉”。友人邹汉勋向曾国藩献“援、堵、守”。
三策，并在江忠源率领下，驰援南昌，授知县；接着又助安徽巡抚江忠源守庐州，战殁。此外，友人戴熙、潘咨、汤贻汾等都在太平军攻下所居城垣后，自杀身死，以示自己对清朝廷忠贞不二。魏源却没有与起义军抗衡的记录。这点，与他当时政治消沉、逃避现实有关；而这点又恰好成就了他晚年的名节，使他与他的友人们有所区别。
写至此，有件史事必须澄清。
《邵阳魏府君事略》云：“甲寅，周文忠公天爵以钦差大臣督皖军，奏府君咨军务。奉檄击宿州匪，斩馘六百馀人，降众五千，散其党，平其垒而还。奉旨复官。”因为此文为魏源的儿子魏耆所写，人多笃信而无疑。比如，李伯荣《魏源师友记》即秉是说。其实，这是魏耆有意误记。
一、甲寅，指咸丰四年，而周天爵已于先年（咸丰三年）病死。《清史稿》列传一百八十《周天爵传》载：“三年……天爵外遏来贼，内清土匪，孤军支拄。方奉命往援庐州，以疾卒於军。”魏源从军周天爵不在甲寅，而在癸丑（咸丰三年）。《清文宗实录》咸丰三年正月壬申，“……高邮州知州魏源……着该督抚饬令迅速赴安庆军营，听候周天爵差遣委用”。
二、按魏耆文意，魏源“奉旨复官”，在咸丰四年，实在咸丰三年。《清文宗实录》咸丰三年十一月己未载：“以剿办安徽颖州府捻匪出力，复已革知州魏源职。”
三、咸丰三年九月周天爵病逝后，魏源随即辞官归家。
四、关键的问题是，咸丰三年二月至九月的这段时间内，魏源有否“击宿州匪，斩馘六百馀人，降众五千，散其党，平其垒”的“军功”？魏耆说“击宿州匪”，而上引《清文宗实录》说是“剿办颖州府捻匪”，地点不同。此其一。其二，魏耆说其父有斩杀之功，而上引《清文宗实录》却只说是魏源剿办“出力”，述说不一。其三，魏源在周天爵军营的七个月，只是参赞军务的幕僚，似非实际带兵的大员，安得有“斩六百馀人”的“军功”？其四，安徽定远人、翰林院编修方浚师（字子严）致万言书予魏源：“陈淮南北利弊险隘，大略某处可进兵，某处可扼要，某处可断贼死路，君[指魏源]复书，颇韪之。惜文忠[指周天爵]薨，无人荐举君，而君竟不克施其功效于吾皖。余是以每有纸上空谈之恨也。”这段文字写在《古微堂诗集序》中，当是最为真实的。从这段文字，足可征信，魏源在“剿捻”前线只“纸上空谈”，实无所作为。这正是魏源的可贵可敬处。那么，魏耆为何要大写其父的“战功”？大概是他被要为先人多带上一束“花环”的心理所驱使。还有一个问题需要辨正，即晚年魏源与太平天国有无直接往来的问题。
魏源在金陵龙蟠里，有座砖瓦结构的住宅，原名湖干草堂，后被其子孙改称小卷阿。此宅在美丽的乌龙潭西侧，“湖光清到卧床前”，宅园内，“薄艺群卉，落落有幽致……倚扉小立，得岚影波馨为多”。故魏源曾舒畅地低吟道：
“山村城市少兼全，心远由来地自偏。”另外，魏源在扬州还有一处住宅，名絜园。在咸丰三年离任高邮州到逝世前的四年中，魏源是否在湖干草堂住过呢？据其曾孙女魏韬回忆说：“洪杨革命军兴起，絜园毁于兵火，于时家人又复全部归居小卷阿。”魏源当时已是一个有官无职的退闲人员，来往于兴化、高邮、杭州间，回金陵小住，也是完全可能的。
不过，魏源被太平天国侍王李世贤尊奉为“三老”之一的记载，则似乎不可靠。刘禺生在录叙容闳的回忆文章中写道：“侍王府在城南，过秦淮河。府中有三老，称为中国年高有大学问者，最为王所礼遇。其一为南京上元人梅先生曾亮，称为古文大家……其二为安徽包先生[指包世臣]，称为中国书法第一人……其三为湖南魏先生，通中外地理，予未得见。”容闳于咸丰七年曾去金陵，于魏源，“予未得见”，故回忆魏源被侍王尊为“三老”之一，且住在侍王府，全是来自传闻。后来，李伯荣撰《魏默深轶事》，云：“默深声名既宏伟，又值洪秀全建国南京，提倡文化，设科取士，乃聘江宁梅伯言、泾县包慎伯及默深为乡三老。默深既殁，坟墓遂湮……因侧身洪廷，遂遭平墓之灾。知清室中复后，忌刻南方儒士之深。”李伯荣，为民国时代人，生于1893年，卒于1972年，所记魏源事迹，全是来自第二手资料，且剔择不慎，多有误记。如，容闳谓侍王尊魏源等为“三老”，而李伯荣谓太平天国“聘”魏源等为“乡三老”，更是比容闳大大“跨进”一步；又说魏源因“侧身洪廷，遂遭平墓之灾”，更是无根无据。
总之，魏源是否在“剿捻”时“斩馘六百馀人，降众五千”，是否住在侍王府，被太平天国奉为“乡三老”，终归是有意误记，或是传闻误记。
考察魏源与太平军、捻军的关系，第一要注意到他当时对所有政治、军事的消沉态度；第二要尊重他对太平军的兴起是“蚌鹬相持”、“乌鹊相斗”的观点。他于咸丰三年后早已把自己当作两军对垒的局外人，尘世的化外人。