1949年，阎锡山看到在大陆大势已去，就顺从蒋介石的安排，去了台湾。到了台湾后，阎锡山非常活跃，还给蒋介石献上自己和一帮幕僚搞了几个月炮制出来的“反攻计划”，无非是想得到蒋介石的重用，没想到老蒋重新出任总统，只给了阎锡山一个虚职，阎锡山知道自己在老蒋心目中芥蒂很深，干脆辞职不干了。
辞职那天他把办公室收拾得干干净净，连一张纸片都没留下。跟着他从山西一路跑到台湾的几个老部下站在门口，谁也不说。阎锡山看了他们一眼，说你们也别在这儿耗着了，该找门路的找门路，该做小买卖的做小买卖，我这辈子算是到头了。说完他头也不回地走了。
他在台北郊区找了一处偏僻的房子住下来，房子不大，院墙倒是挺高。刚开始那几个月，还真有人上门来看他，有的是以前的老部下，有的是想打听山西旧事的记者。阎锡山一概不见，让一个老勤务兵在门口挡着，说身体不好，谢绝会客。时间一长，就没人来了。
他每天的生活变得极有规律。早上五点起床，在院子里打一套自己编的拳，然后吃早饭。早饭是小米粥配咸菜，几十年不变。吃完饭他就钻进书房，开始写东西。他写的东西没人看，也没地方发表，就是自己写给自己看。有时候写累了，他就走到院子里，盯着墙角那棵老榕树发呆。
有一天，他正在书房里翻看以前的日记，突然听到外面有人吵吵嚷嚷。他推开门一看，是那个老勤务兵在跟一个穿中山装的中年人拉扯。中年人手里提着一个皮包，说自己是“总统府”派来的，有要事面见阎长官。阎锡山本来想摆手说不见，但转念一想，老蒋的人来了，不见不合适。
他把中年人让进客厅。中年人坐下后，从皮包里掏出一封信，双手递过来，说这是总统亲笔。阎锡山拆开一看，上面就几行字，大意是说现在局势艰难，希望阎锡山能出来担任“光复大陆设计研究委员会”的副主任委员，为党国尽一份力。阎锡山看完把信放在桌上，没说。
中年人以为他嫌官小，赶紧补充说这个职位虽然是副的，但实际工作都由阎长官来抓，主任委员只是挂个名。阎锡山笑了一下，说你知道我跟了蒋先生多少年吗。中年人愣了一下，说知道，几十年了。阎锡山说这几十年里，我给他出过多少主意，你数得过来吗。中年人不敢接。
阎锡山站起来，走到窗边，背对着中年人说，你回去告诉蒋先生，就说我阎锡山老了，脑子不好使了，写不了什么计划了。台湾这地方气候不错，适合养老，我就在这儿安安稳稳过完下半辈子，别的事我一概不过问。中年人还想再劝，阎锡山一抬手，说就这样吧，你回去复命。
中年人走后，阎锡山在客厅里站了很久。老勤务兵进来收拾茶杯