1990年11月，薄老的《若干重大决策与事件回顾》上卷完稿，派人将书稿送给乔木，请他提意见。这时，乔木的身体越来越虚弱，吃化疗药的反应也越来越大，“兴奋剂”，镇静药轮番交替，支撑着他的病躯。尽管这样，他还是毫不犹豫地接受下来，仔细阅读。周围的同志及全家人，看到他那样拼命，都劝他要遵医嘱，真正休息，但都没有效果。医院的一位主任大夫认为这样下去对乔木的身体危害太大，很严肃地劝他：“胡老，这里是医院，不是办公室，你得遵守医院的纪律，不能再这样工作了！”乔木当着医生的面表示接受“批评”，把稿子收起来，等医生一走，他又拿出来，全神贯注地看起来。就这样，他硬是拖着虚弱的病躯，把薄老的书稿看了两遍，仔细地提出修改意见，派人给薄老送去。

    几年来，周围的同志和朋友都劝他写回忆录，他都没有同意。看过薄老的这部书稿后，经大家再三劝说，他才下了决心，1991年6月，在经过仔细考虑后，乔木给江泽民等中央领导同志写了一个报告，表示准备“写本关于毛主席的回忆录”，重点写他所接触和了解的毛主席在四十年代和五十年代的一些重要政治活动，准备在纪念毛主席诞辰一百周年时出版。他的报告随即得到批准。而这时，乔木年初在三零一医院做手术，已发现他体内的癌细胞己扩散到骨头上了。但他自己并不知道，他不认为病情有多严重，又为写回忆录忙开了。他先后同参与这项工作的同志进行了二十多次谈话，井对按他谈话而整理出的部分稿子作了审定和修改，成为现在奉献给读者的《胡乔木回忆毛泽东》。可惜的是五十年代部分没有来得及动手，成为无法弥补的憾事。

    也是在这一年的四，五月间，为纪念党的七十周年，乔木又以重病之躯紧张地赶写了长篇论文《中国共产党怎样发展了马克思列宁主义》，在6月25日的《人民日报》上发表。这是他倾注了最后的心力写成的一篇很有思想深度的理论文章。文章写完时，他已是精疲力尽了。

    谷羽还忆及：

    1992年6月1日，是乔木八十岁生日，我们一家人给他搞了一个小小的生日晚会。儿子为他塑了一尊头像，神态逼真。晚会上还演唱了傅庚辰为他的诗《希望》谱写的歌，不少亲朋好友来向他祝贺，乔木被家人和朋友对他的敬爱所感染，他笑了，笑得那么开心！在他一生中，这是很少见到的。生日晚会后，他高兴了好几天，几次跟我说，他希望活到九十岁。大有要“把人生的道路再走一程”的劲头。没想到一个月以后，乔木就因癌症扩散引起骨折住进了医院。在病床上，他还对我说，我要活到九十岁，我希望做两件事：一是完成对主席五十年代政治活动的回忆录的写作；二是重写一部完整的中共党史着作。

    胡乔木“希望做两件事”未及着手，他就离开了这个世界，成为终生的遗憾。

    胡乔木一生着有：《中国共产党的三十年》、《胡乔木文集》、《关于人道主义和异化问题》、诗集《人比月亮更美丽》。

    胡乔木晚年读了薄一波的《若干重大决策与事件的回顾》，十分赞赏，便仿照薄一波组织一些人写回忆录。胡乔木的回忆录以自己的经历为线索，以毛泽东为中心进行回忆，回顾二十世纪四、五十年代毛泽东的思想和决策。

    1992年9月28日，胡乔木在北京逝世，终年81岁。遗体于10月4日火化。按照胡乔木生前遗愿，10月26日将骨灰撒在延安地区。

    胡乔木去世时，他的回忆录并未完成。在他去世之后，回忆录的编写组把未完稿加以整理，交给人民出版社，于1994年出版，取名《胡乔木回忆毛泽东》。

    1994年，《回忆胡乔木》、《胡乔木文集》出版发行。

    1995年12月，胡乔木的一万四千件档