焦裕禄带病下乡晕倒之后，被立即送往医院，经医生诊断，必须马上转院。
在去开封治病前夕，焦裕禄放心不下刚刚取得进展的除“三害”工作，他找这个谈谈，那个问问，把县委的工作做了细致的交代和部署，一直忙了一整天，直到夜深人静，才拖着疲惫、酸疼的身子回到自己家里。
3月23日，焦裕禄要到开封去治病了，心里有一种强烈的失落感。他望着战斗了几百个口日夜夜的兰考大地，充满了无限的依恋之情：“不！我一定要回来，和同志们一起除‘三害’，战天斗地。”焦裕禄临上火车前。又把除“三害”办公室主任叫到跟前，说：“除‘三害’是兰考人民的迫切要求，是党交给我们的光荣任务，你们一定要搞好，我看病回来，还要听你全面汇报除‘三害’的进展情况哩！”
焦裕禄说话声音不高，却敲动了每个同志的心弦。
焦裕禄由开封又转到郑州河南医学院附属医院。经医生诊断，是原发性肝癌，病情十分严重。党组织为了挽救焦裕禄的生命，又把他转到北京诊断治疗。在北京，几位有名的医学专家经过会诊，开出了一张诊断书，上面写道：“肝癌后期，皮下扩散。”这是不治之症啊！当时，医院没把这个诊断书给焦裕禄看，给他的是另一张：“严重肝炎，注意休息。”
陪同焦裕禄去治病的同志，决不相信这个诊断书，人像傻了似的，连声问道：“什么？什么？”医生怀着沉重的心情，说：“焦裕禄同志最多还有二十天时问，赶快送他回去吧！”这位同志一听，放声痛哭起来，他抓住医生的手，说：“医生同志，我求求你，我恳求你，请你把焦书记的病治好，我们兰考是个灾区。兰考人民离不开他呀！”
医生说：“癌症现在还是一个难题，不过，我们医务工作者，一定用焦裕禄同志的革命精神，尽快攻占这块高地。”
焦裕禄又被转回到郑州，进行人道治疗。医生把焦裕禄安置在一间隔音的房间里，对他说：“你要是疼得厉害，就放大声喊吧！”但他始终没有呻吟一声。
焦裕禄的病终于到了最危急的关头，医院连续发出病危通知。县上不少同志去郑州看望他。他总是不谈自己的病，先问县里的工作情况。他问：“张庄的沙丘封住了没有？赵朵楼的庄稼淹了没有？秦砦盐碱地上麦子长得咋样？老韩陵的泡桐栽了多少？……”他要同志们带一把秦砦盐碱地上的麦子给他看看，还特别嘱咐一个同志转告县委：把他没写完的那篇文章继续写完。
5月初，焦裕禄病情垂危！省、地、县委的领导代表党组织去看望他。焦裕禄挣扎着拉住领导同志的手，问道：“我的病到底还行不行？”领导同志怀着沉痛的心情，对焦裕禄说：“裕禄同志，党为了治好你的病，’尽了最大的努力，可是……你有什么话要说，就向组织上讲吧！”
焦裕禄听了这个消息，稍稍振作一下精神，拉着省委领导同志的手说：“感谢党组织对我的关怀，我没能很好地完成党交给我的任务，没实现兰考人民的要求，心里感到不安。”
省、地委的领导说：“裕禄同志，你已经出色地完成了党的任务，你已经把毕生的精力，献给了党和人民，你不愧为一个真正的共产党人。”
这时候，焦裕禄是多么想和党多说几句话呀！可是，他舌硬气短，只是断断续续地说：“兰考是个灾区……我死了……不要多花钱。我死后……只有一个要求……要求组织上把我运回兰考……埋在沙丘上……活着我没有治好沙丘……死了……也要看着兰考人民把沙丘治好。”
1964年5月14日清晨，焦裕禄同志的心脏停止了跳动。
一个优秀的共产党员、伟大的共产主义战士、毛泽东同志的好学生，走完了他那完全、彻底为人民服务的光辉一生，与世长辞了！
这一年，他才42岁。
他死后，人们在他的病床枕下发现两本书：一本是《毛泽东选集》，一本是《论共产党员的修养》。人们还在他的日记本上，看到了这样一段话：“我想，作为一个革命战士，就要像松柏一样，无论在烈日炎炎的夏天，还是在冰天雪飘的严冬，永不凋谢，永不变色；还要像杨柳一样，栽在哪里活在哪里，根深叶茂，茁壮旺盛；要像泡桐那样，抓紧时间，迅速成长，尽快地为人民贡献出自己的力量。”这就是焦裕禄一生所走过的道路的最生动的写照。
焦裕禄不愧为党的好干部，不愧为人民的好儿子，不愧为县委书记的好榜样。他的一生是革命的一生，战斗的一生，光辉的一生。他没有死，他永远活在全国人民的心里。