刘蓉回籍后养晦深山，冲襟乐道，其志不移，其性不变。他作《还山篇》讽喻曾国藩。诗中云：
功臣名遂身不退，劬劳缺掌胡为哉！
南岳巍巍固天纵，岩栖要得幽人共。
武乡尽庠事何成，邺侯还山身更重，
留侯辟谷意非狂，淮阴就醢词何痛，
青霄已快翔双鹤，丹穴终看巢三凤。
题诗远寄多髯公，唤起黄州春一梦。
曾国藩见诗后，感慨万千，但人在江湖，身不由己。
刘蓉家居，营“遂初园”，以示其向学的夙愿，杜门讲学十年。论学以程朱为归，力排汉学。针对“天下将帅，十九湖湘”的局面，尤其是湘乡人功名日盛的心理，刘蓉很以为忧，语重心长地说：
吾家乡风尚素号纯朴，农民勤稼穑，士子以廉洁自律。故军中称颂湘湖文职武将，崛起草泽，以能为国宣力。而迁流日久，侥幸之心生。以利禄为易得，而争事繁华；变朴厚之旧风，而群趋嚣竞。乡村每有争讼，不问理而以势力相抗，及其呈控到县，亦复以是为衡量标准。由是有势者恃以横行，而无力者亦借资于有力之绅衿，以张其焰而求一胜。此民风所以日下，人心所以败坏也。二十余年来，东南遘祸，举凡衣冠文物，竞逐纷华之国，无不残破。故家世族之所留遗，巨贾豪商之所积累，莫不荡为灰烬，化为飞烟。子女分离，乞食道路。独湖南安然无恙，吾乡人因此跻致名位，广积金钱。旧时凿井耕田之子，椎牛屠狗之夫，皆高牙大纛、美衣华屋以自豪于乡里。果有何功德在人，宜食此报以长保富贵而无后灾哉？智者见祸于未萌；凡无功有享厚报，无德而致大位，皆智者之所视为不祥而深自警惕。天道忌盈，物极必反，如不惕厉修省，懔持盈保泰之思，正恐暑往寒来，福过灾生。前日之膺祉蒙休，冠于他郡；后日之遭殃罹祸，亦且烈于他邦。此古今盈虚消息之常理，非同释氏因果报应之谈。每举以语明辈，款语谆谆，听者虽颇面从，退则或相迂笑。人心陷溺，如何如何！
他还致书曾国藩，“所居疑在蓬岛之间，置身若在周秦以前”，丝毫没有流露出对自身遭遇的忧郁之情，表现出一位学者谈笑面对现实的广阔胸怀。所以，曾国藩称颂他“研精三《礼》，洞澈先王经世宰物之本，遂欲有所撰述，以觉后世之昏昏。”又对他的学问作了高度赞扬：“文章欲近欧阳修辈而与之齐，而志愿有大于此者。”后世学者对他的学术评价是：“观其持论不徇风气，知制行不为诡随矣。论文不持宗派之说，而为文章条达疏畅，如己意之所欲出”。这正是刘蓉在晚清学术史上占有一席之位的原因所在。同治十一年（1872）二月初四，曾国藩病逝于两江总督任上。刘蓉挥泪作挽歌百首，其中第三首云：
海内论义我最先，从容文洒记岁年。
可怜鹤发支离叟，志向人间哭逝川。
但仅过一年，即次年二月，曾国藩的这位亲家刘蓉也长逝于湘乡养晦堂。有《养晦堂诗文集》、《恩辨录质疑》等著作传世。