还在1972年3月，蒋介石就做了前列腺手术，并由此转为慢性前列腺炎。蒋经国就任行政院长的第二个月，即1972年7月，蒋介石先患感冒，而后引起肺炎，于是进入荣民总医院，在这里住了一年零四个月之久，从此，蒋介石的健康便一蹶不振。

　　1973年元旦，病中的蒋介石照例发表致同胞文告。10月10日，双十节，他又照例发表“国庆”文告。在这些文告中，仍然表示其反共的态度决不改变，仍然是那些早已听厌的高调：“纵使我们的权利蒙上一层悲痛的面纱，我们的气氛暂时受到安抚逆流的毒化，我们决不会气馁，我们不会迷失方向与道路。”蒋介石发表这些文告的目的，除了表示他反共的决心外，主要为了向外界表示，他没有病，他还是台湾的统治者。
　　
　　蒋介石住院期间，对外高度保密。他本应辞职，以副总统代理其职，但他一直没有这样做，为的是让蒋经国接班有更充分的准备时间。
　　
　　1973年7月，他第四个孙子蒋孝勇结婚时，他还与他们合照，让报纸公开刊载，以向公众证明他的健康状况和并没有暗中引退。
　　
　　1974年夏天，蒋介石的病情一度好转，他每天可以在花园散步，并与家人讨论政治及国际形势，似乎十分轻松与愉快。但到年底，台湾发生流行性感冒，蒋介石偶感风寒，再度患感冒而转为肺炎，这次病得十分厉害，身体虚弱到了十分严重的程度。由于蒋介石治疗慢性前列腺炎而长期服用抗生素，所以此次肺炎很难治愈。
　　
　　1975年1月9日，蒋介石在睡眠中发生心肌缺氧症，虽经抢救转危为安，但由于肺炎未愈，不时发烧。3月29日，蒋介石病情转危，他高烧不退，已不能起床，他自知年事已高，多病并发，不可能治愈了。于是，他让国民党中央委员会副秘书长秦孝仪拿来笔和纸。
　　
　　他口授遗嘱，让秦孝仪记录，后由宋美龄、严家淦、蒋经国、倪文亚、田锦、杨亮功、朱俊贤等签字。遗嘱如下：
　　

　　余自束发以来，即追随总理革命，无时不以耶稣基督与总理信徒自居，无日不为扫除三民主义之障碍，建设民主宪政之国家，艰苦奋斗。近二十余年来，自由基地，日益精实壮大，并不断对大陆共产邪恶……展开政治作战。反共复国大业，方期日新月盛，全国军民、全党同志，绝不可因余之不起，而怀忧丧志！务望一致精诚团结，服从本党与政府领导，奉主义为无形之总理，以复国为共同之目标。而中正之精神，自必与我同志、同胞相左右。实践三民主义，光复大陆国土，光复民族文化，坚守民主阵容，为余毕生之志事，实亦即海内外军民同胞一致的革命职志与战斗决心，惟愿愈益坚此百忍，奋励自强，非达成国民革命之责任，

绝不中止；矢勤矢勇，毋怠勿忽。
　　
　　中华民国六十四年三月二十九日蒋中正
　　
　　蒋介石口授完遗嘱，喘了一会气，又说：“我死后，将灵柩暂厝慈湖，那儿风景好，很像我们奉化老家。”说到这里，蒋介石闭上眼睛，再也不说话了。大家知道，此时此刻，蒋介石是在强烈地思念自己的家乡----奉化溪口，那古木参天，危崖耸立的武岭，那流水旋洄、游鱼可数的剡溪，如一幅幅立体画面，在蒋介石眼前出现，老人的眼睛有些湿润了。
　　　　
　　4月5日下午，蒋介石病情恶化，他腹部感觉不适，泌尿系统失灵，医疗小组认为心脏功能不佳，可能腹内积尿，便给蒋服用少量利尿剂，不久便排出500cc。下午4时，小睡片刻。晚8时1刻，蒋介石病情进一步恶化，脉搏突然转慢，医生当即施行心脏按摩术和人工呼吸，并注射药物急救，约一二分钟后，心脏呼吸恢复正常，但四五分钟后，心脏又停止跳动，便再施行上述方法，然而效果已不佳。此时，呼吸不能恢复，血压也不能测出，只能使用电击，促使心跳。
　　
　　这天夜晚，台北上空，雷电交加，大雨倾盆，如此恶劣的天气，更增加人们的焦虑。草山别墅中的蒋介石在狂风暴雨声中已是人命危浅，奄奄待毙。延至晚11时50分，蒋介石瞳孔已放大，医生仍在抢救，注射心脏刺激剂，将电极直接刺入心肌，但已毫无作用了。蒋介石在宋美龄与蒋经国的哭泣声中溘然长逝，终年89岁。
　　
　　蒋介石死后两小时，台湾政府新闻局发布死亡公报，明令从4月6日起历时1月为“国丧”期。
　　
　　4月9日，蒋介石遗体停在国父纪念馆，供民众瞻仰遗容。数日内，约有250万人进行了瞻吊。
　　
　　16日8时5分，进行追悼和安厝仪式，蒋介石遗体身着长袍马褂，上面覆盖着青天白日旗。随其遗体入殓者，有蒋介石所得三枚最高勋章：采玉勋章、青天白日勋章、国光勋章，还有他经常阅读的四本书：《三民主义》、《唐诗三百首》、《圣经》、《荒漠甘泉》。仪式后，依照蒋生前的嘱咐，其灵柩移厝距离台北市60公里处的大溪镇福安里村“慈湖”。
　　
　　正如蒋介石所说，慈湖山明水秀，与他老家奉化的溪口实有相似之处。但这里毕竟不是溪口，蒋介石一生喜爱他的家乡，他前后三次下野，都跑到家乡躲起来，在山环水抱的故里盘算东山再起。蒋介石在败逃台湾时，与蒋经国一起曾登上飞凤山顶，极目四望，半晌无语，心中充满了无限留恋。而现在，他死在台湾，柩浮厝，可谓死而有憾。但中共多次声言，实现祖国统一后，蒋介石先生的棺柩可移葬大陆，安葬在他的故乡或紫金山亦可。
　　
　　待海峡两岸共庆统一的时候，蒋介石一定会长眠在他所希望的故土。