。但派侍从监视，常遭阎的训斥谩骂；由夫人亲自监视，仍然无法控制。于是，就请“五姑娘”出马。“五姑娘”每到阎锡山吃饭时，就坐在炕桌前，自己并不吃，专门生法儿让阎锡山进食。看到他不思饮食，就拿筷子尝尝，说多么多么好吃，同时讲些开心的笑话，让阎锡山能够从郁闷中解脱出来，正常用餐；而有时又见他吃得太多，便轻言细语地劝说少吃一些，劝不住，就率性将碗夺过来，命令副官将饭菜立即端走。阎锡山也只好听由她的摆布。她还经常下厨，亲自动手做些家乡饭，让阎锡山吃得高兴痛快。此后的长时间里，“五姑娘”每餐必监，监必认真，阎锡山的健康得益甚大。抗战之后，阎的姨太太因心脏病突发猝然去世，“五姑娘”就担负起了照看阎锡山日常生活的责任。除监视饮食外，每到阎锡山睡觉时，她还要亲自为其捶背、掖被，直到阎锡山安然入睡，她才与侍卫长退出卧室。
正因为阎锡山与“五姑娘”有着如此特别亲近的关系，在太原的军政高官们都曾经通过观察“五姑娘”的动向，猜测阎锡山的行动。当他离开太原时，曾一再表示，虽然三、五天，八、九天回不来，但一旦太原紧急，就会马上回来，并特意将“五姑娘”留下。这使不少人以为，“五姑娘”既然没走，他还会回来的。将一个并不懂政治的至亲的堂妹，留在炮火连天的绝境，用以安定人心，阎锡山的算盘打得不可谓不精明。但“五姑娘”如此悲惨地死去，也唤起了他的一份亲情。面对那份文诌诌的电报，想到“五姑娘”到死也还得胡里胡涂充当一回工具，他该是什么感想呢？
此时的阎锡山，眼泪该不是作秀吧。
在解放军的凌厉攻势下，太原城迅速回到人民手中。山西军政高官王靖国等皆成为解放军枪口下的俘虏，太原守军，包括正规军和非正规军共13500人，遭到彻底歼灭。4月29日，盘踞在晋北孤城大同的守军万余人向解放军投诚，大同宣告和平解放。山西全境回到了人民手中，阎锡山苦心经营达38年之久的老窝，从此将他彻底抛弃。
阎锡山到达南京之后，四处吹嘘太原的“坚强防守”，吹嘘他的所谓“五百完人”。本想着长期呆在南京，既躲开了解放军的炮火，又能遥控太原战局。不料，解放军南下速度实在是太神速了，南京比太原还早解放了一天。没奈何，他只好匆匆赶往广州。到广州时，他写了一首《游海珠桥有感》：“钢骨水泥兮，合作坚牢；孤雁南飞兮，哀鸣嘐嘐。”神情感伤，很是凄凉。看到《中央日报》上刊登新闻，称“反共守城名将阎锡山莅穗”，他又得到些许安慰，颇为自豪。但后来，广州的书报摊上就出售一期美国的《时代》杂志，在杂志的扉页上，印着一帧照片。那照片是在太原时他接受美国记者访问拍摄的。照片上，他穿着长袍，神情端庄地坐在办公桌前，左手把一盒注射针剂（杂志上注明是氰化剂），倒在桌面上；照片下写道：“誓与太原共存亡的阎锡山将军现在安然无恙地活跃在广州政坛上。”这辛辣的讽刺着实让他难堪，但他也确实知道，太原是回不去了，在山西的资本已经拼尽了。面对末路，精于算计的他又打起了新的左右逢源的主意：一是失去了军事力量，反共当然没有了资本，赤手空拳却也不会再招致蒋介石的忌恨。能做的，就是要努力讨好蒋介石，努力表现坚定反共，在政治上努力捞取一些资本，作为今后“存在”的基础；二是千方百计利用保卫太原的借口，向国民党中央政府要钱要粮，为此后筹划生活费用和经济资本。国防部给了一部分粮食和金元券，他令人将它们都换成银洋和黄金；并把西北实业公司在太原的资金和在上海、天津等地的物资，一律变现成黄金，尽量外运。对于自己和家人的生活，也作了“狡兔三窟”的安排：将继母和二媳送住台湾，在台北设立阎公馆；将四子和四媳送往美国，在美国营造好了寓所；又派五子和内弟到日本，在日本也找下了巢穴。总之，不论时局如何变化，他都有了安身之地。后顾之忧的解决有了眉目之后，他就在政治上频频活动，沿着顽固反共的道路走到底。
他曾秘密到浙江奉化，去拜望当时“下野”在家的蒋介石，在蒋面前买好，以取得蒋的支持，在国民党中央政府中图谋位置；他还数度拜见美国驻南京大使司徒雷登，期望得到美国的支持；他多次接见“立法委员”和中外记者，吹嘘死守太原的高招和收拾残局的意见，并想创办报纸，作为他自己的舆论阵地。南京解放后，国民党政府迁往广州，阎锡山到广州后，就和CC分子联合发起，成立所谓“反共救国大同盟”，并担任主席，狂妄地提出了“集中全民力量，坚持反共战斗”的口号，网罗各派系的残余。自以为通过这个组织，还能得到地方势力的拥戴，把广州建成“第二个太原”。也正是在蒋介石的暗中支持和CC派的摇旗呐喊声中，阎锡山于1949年6月担任了国民党政府的行政院长兼国防部长。对于此时此地出任这个“高官”，阎的部下颇有不同看法。一种认为：入阁拜相，位极人臣，统率百官之职，哪有不就之理？另一种认为，自己手无寸铁，凡事都要看人脸色，仰人鼻息，挤在蒋介石和李宗仁的夹缝中，做也难为。阎锡山自己则表示：“我这内阁，犹如请来的大夫，只要开出对症的药方，就算尽到责任。至于病人是否肯依方服药，那就不是我这大夫能过问的了。”虽然表示的是“勉为其难”的态度，但为了显示自己反共的决心和不平凡的才学，不几日后，他就提出一个“扭转时局方案”：政治上要转乱为治，转危为安；军事上要转败为胜，转守为攻；政府机关要整饬吏治，提高威信，提倡廉洁奉公，勤俭节约；经济上要改革货币，抑制物价，安定国民生活；还要加强政治教育，澄清国民思想，摆脱共产诱惑，团结反共致胜，等等。规定后方省份都要成立“反共救国军总司令部”，由省主席兼任总司令，加强各地的反共行动；又与蒋介石、李宗仁等联名，借“纪念七七抗战”之名，发表“反共救国宣言”；以行政院的名义，颁布所谓“反共公约”，规定五家连坐，强制民众作他们反共的炮灰；国民党临时成立的决策机构，还通过了阎锡山提出的“反共救国方案”。从组阁之日起，阎锡山就大开空头支票，前后共制定《扭转时局总案》等方案，总计阎阁文案达100万字以上。直到1949年10月中旬，中华人民共和国已经宣告成立之后，阎锡山被迫逃往重庆，仍然企图在四川推行什么“总体战”，制订什么“军政一体化”的作战方案；逃到成都后，阎锡山还亲自兼任国民党政府教育部成立的“反共救国战斗团”的团长。短短的几个月内，阎锡山如丧家之犬，明知不可而为之，足见其反共的狂热和逆历史潮流而动的顽固都非同一般。对于阎锡山这一段拼上老命的奋斗和努力，蒋介石曾给予很高的评价。到台湾后，蒋在第一届国民大会第二次会议的报告中说：“自三十八年底及三十九年初，赤焰滔天，挽救无术，人心迷惘，莫可究极，……其土崩瓦解之形成。……当此之时，中央政府幸有阎院长苦心孤诣，撑持危局，由重庆迁成都，复由成都迁台湾，继续至当年三月为止，政府统绪，赖以不坠者，阎院长之功实不可泯。”
1950年2月8日，阎锡山由成都乘飞机到了台湾。3月，蒋介石又粉墨登场，在台湾做起总统来。此时，国民党的要员纷纷出面，对内阁在重庆、成都时的种种举措提出指责，甚至恶意攻击。阎锡山的处境甚至得到了“国际友人”的同情，说：“军中的悍将，政中的流氓，社会上的土棍，无人替你制服，你难免受他们的侮辱。”阎锡山忍气吞声之余，也终于明白，即使自以为反共到底，拼了老命，也还是难以得到蒋介石的认同。于是便以“中枢有主”为辞，向蒋递交了“辞呈”。蒋介石立即通知“立法院”开会讨论，很快便予以批准，并通过行政院长由陈诚继任。七、八个月的行政院长做完了，阎锡山的政治生命也就到此彻底结束。阎在台湾，还念念不忘他所器重的所谓“五百完人”，通过行政院拨款新台币20万，在台北北园山建立了“太原五百完人成仁招魂冢”。蒋介石还特意题字曰“民族正气”，蒋经国则题赠“齐烈流芳”的匾额。阎锡山题写的是“先我而死”，并亲自撰写了一首“太原五百完人歌”，其歌曰：“民族有正气，太原出完人；海天万里招忠魂，歌声悲壮动三晋。何以为完人？生而能杀贼，死而不留身，大节凛然表群伦。谁能为完人？男学梁敦厚，女学阎慧卿，死事壮烈泣鬼神。赴汤蹈火全忠贞，救国救民重死生；五百完人齐尽节，太原今日有田横。民族有正气，太原出完人；日月光华耀国门，万古流芳美名存。”由于阎锡山的竭力鼓吹，蒋介石的大力支持，所谓“太原五百完人”在台湾产生了很大影响。这既显现了阎锡山善于造声势、造舆论的能力，也曲折地表示出他对生他养他的故地有一缕难断之情。
离职前，“行政院”的手下人，为阎锡山举行了一个小型的茶话会。会上，有人引用了老子《道德经》中的两句话，送给阎锡山作为安慰。这两句话是：绝圣弃知，大盗乃止。阎锡山由此发了一通感慨说：“无珠宝而不争珠宝，不是不争，是无所争；有珠宝而不争，是自己心上无珠宝，才足为奇。人不污辱你，你不和人争，不是不争，是无争；人污辱你，你不和人争，才是不争。”在险恶的人生中，经历过无数艰难曲折，也使出过无数图谋诡计的人，为了争权夺利而无所不用其极的人，到这时候，道出这一番似乎旷达大度、与世无争、安于命运的话来，究竟是一种幡然的悔悟呢，还是一种无可奈何的认命？
在台湾，阎锡山以“总统府资政”及“国民党中央评议委员”的身份，长期隐居于台北市阳明山菁山草庐。虽然口头声称与世无争了，其实仍然丢不下放不开的他的反共理想，也丢不下放不开他曾经为之付出大半生心血的故乡山西。有人作《菁山草庐纪略》，记述和描写了阎锡山在台湾的日子。文中说：“菁山系台北市北郊阳明山的一部份，位于山仔后之东。……一九五0年三月十五日，阎伯川先生卸任行政院长，九月迁入菁山草庐，即士林公馆里九邻八十一号。其地系日据时代之茶园，时已荒废。阎先生于此建屋，茅草代瓦，竹泥为墙，无电灯、电话、自来水，石子道路，极其坎坷；生活条件，十分简朴。来客甚稀，无都中之烦扰，适于专心致志，从事著述。住未久，蒋先生夫妇来访后，命国防部整修道路，架设电话。民航空运公司陈纳德及夫人陈香梅来访后，赠一小型发电机。为节省汽油甚少使用，以蜡烛照明数年，始有电灯。台湾七、八月间不断有台风来袭，强风屋塌墙倒，拔树断路，茅屋一年间屡坏屡修，亦不安全，遂于地势稍低依山背风处建水泥钢筋顶之窑洞五孔，就地取材以石为墙，命名为‘种能洞’。‘种能’是指宇宙本体演变成物及人的根本。……（有客来时），阎先生谈论主旨，一为人应当怎样，包括人在宇宙中的地位、人的责任；二为如何挽救人类核子毁灭的危机，取各种主义之长，舍各种主义之短，建立永久安和的世界大同；三为如何建设富强文明长治久安的新中国。……先生每日起床后，散步早餐，八至十二时写作，与客会谈。午餐后，休息，下午二时至五时写作，五至六时听报告重要新闻论文及书籍杂志之要闻。六时晚餐，散步，七至九时写作，十时就寝。饭食较清素，有若‘寄身京华久，醇朴犹老农’。”作者的笔端，流露出隐隐的同情和不平。与先前的铺排豪华相比，日子确实过得有点儿寒碜。阎锡山自然明白，虽然蒋介石对他客气有加，但并没有将他当成自己人对待。试想，蒋的高官们哪一个会住到此等荒凉所在？对于与蒋几十年中的恩恩怨怨，他心里清楚，因此也有自知之明，不去自讨无趣。到台湾后不久，各界就已纷纷议论，蒋介石将来要把“总统”传给儿子蒋经国。阎锡山对此有自己的看法，他借评论古人，发表意见说：“中国数千年来政治经济上的病根，在家天下政权私有。”他认为，废除井田而土地私有，将传贤制度改为传子，就是把给人类带来幸福的措施变为使人类悲惨的谬误。议论声传到蒋介石的耳中，蒋让人转告说：请少发些空泛议论。
在这种政治上被冷冻，生活上遭贬斥的情况下，阎锡山没有像有些高官那样，转到国外当寓公，也没有像有些不得志的高官那样，皈依宗教求解脱。他安居草庐，避在世外，不看电影，不看戏，不吸烟，不饮酒，不赌博，也不参加诸如剪彩、证婚之类的应酬，认认真真地做起了学问。用一辈子挥刀舞枪、拨拉算盘的手，兢兢业业地开始了艰苦的写作。他深有感触地说：“言语道断，心思路绝，乃可语学问修养。”殚精竭虑，惨淡经营，奋斗一生之后，落到一无所有的下场。这种人生境地的大起大落，可使人心灰意冷，也能让人旷达超脱。应当说，阎锡山没有被命运整得唐颓不已，他是要努力超脱的。他钻到“反共”学说的研究中，为自己的失败寻求难以验证的辩解；钻到儒家文化去寻求心理的慰籍和平衡。有评论说：“阎锡山好学深思，晚年对于反共之道，有若干深入独到的见解，不流于空泛；对儒佛之学，虽然未至一旦豁然贯通的境域，但有若干尽情合理的名言，确超过一般平凡的思虑。”这种说法，值得欣赏和玩味。
他先后写作并出版了先后出版了《世界和平与世界大战》、《孔子学说》、《世界大同》、《大同之路》、《共产主义的哲学，共产主义共产党的错误》、《反共的哲学基础》、《收复大陆与土地问题》，《反共复国的前途》、《三百年的中国》等著作二十多部，还雄心勃勃地制订了研读二十五史和十三经的计划