80岁高龄的老金身体状况大不如前。梁思成、林徽因夫妇的儿子梁从诫感念老金与梁家几代人的真挚友谊，携家搬到老金在东城干面胡同的处所共同吃住。自此，老金又重新回到了当年“太太客厅”时代，只是客厅的主人不是自己的挚友梁、林夫妇，而是年轻的小字辈了。在这个充满着友情挚爱的温馨家庭里，梁从诫一家一直视老金为亲生父辈，并呼曰“金爸”，而老金也视梁从诫为亲生儿子，无论生活中的大事小事都与梁从诫相商，特别对自己弄不清、道不明的“社会”中事，他总是以梁从诫所说为然。

    1980年11月，老金因肺炎住院，出院后他已不会走路了，只能长期卧床疗养。有一次，哲学所的领导们看望老金，寒暄过后，拐弯抹角、小心谨慎地提到了老人书籍之事，暗含的意思是希望其捐给哲学所。并不糊涂的老金一听就明白，但他却明确表示，自己的藏书是几十年积攒的结果，其中有些书的搜购，有梁思成与林徽因的情感和功劳，因而，当自己百年之后，所藏书籍要留给梁从诫，以寄托对梁、林二人的缅怀之情。

    1982年，老金觉得死神已在家门守候，将魂归道山，于3月7日特别给社科院哲学研究所党组织写信，谓：“我可能很快结束。我要借此机会感谢党、感谢毛泽东同志、感谢全国劳动人民把中国救了。瓜分问题完全解决了。四个现代化问题也一定会解决。”又说：“我死之后，请在我的存款中提出叁仟元献给党。请勿开追悼会，骨灰请让清风吹走。”1984年10月19日下午3点35分，老金因双侧肺炎、肺气肿、冠心病等病症医治无效，在北京305医院逝世，终年89岁。

    10月20日，中央人民广播电台播发了消息，称：“著名哲学家、逻辑学家、中国人民政治协商会议全国委员会委员、中国科学院前哲学社会科学部委员、中国社会科学院哲学所副所长、中国共产党优秀党员金岳霖……毕生致力于我国哲学、逻辑学的研究和教学工作，对我国逻辑学的建设和发展，对我国哲学研究和教育事业都做出了重大的贡献，在国内外学术界享有很高声誉。”

    泰山其颓，梁木其坏，哲人其萎，二十世纪灿烂的学术星河中最后一颗巨星就此陨落，喧嚣的世间一座学术大山于烟岚雾海中无声地隐入历史深处，一个时代结束了。