1949年4月，人民解放军百万雄师渡过长江以后，国民党政府在政治，经济与军事上已呈现总崩溃的局面，八月湖南程潜、陈明仁起义。国民党贵州省政权赖以作为前沿屏障的门户大开，当时国民党在贵州的野战部队早已调到内战前线，贵州只有6个保安团维护地方治安。淮海战役期间。国民党的主力部队大部被人民解放军所歼灭，该政府的国防部即令在各地招兵买马，贵州也按伞令成立了编练司令部组训兵源，继后用这些新招的兵员在贵州编组了43军与89军。时任贵州省主席兼保安司令及绥署主任的谷正伦就用新组建的这些军队布防在黔东和贵州西部的南北盘江一线，准备对解放军进行防堵，保住贵州。
11月解放军第五兵团进军贵州，担任黔东防堵的49军未触即溃。谷正伦知贵阳已不能保，遂于11日率省政机关经安顺，镇宁往贵州西部撤退，国民党贵州省政权已处于穷途末路的阶段。蒋介石亲自督率共约40多万兵力指挥固守西南的形势；十月十日国民党政府决定迁重庆，十一月十四日贵阳解放，二十五日罗广文放弃南川，解放军长驱直入，二十九日行政院迁成都，三十日蒋从重庆飞成都，十二月一日重庆解放，成都也危在旦夕。再看看桂系白崇禧华中部队的三十万“能征惯战的精锐部队”，从十一月二十日至十二月四日，才十多天的时间，全部被人民解放军歼灭。国民党军队已处于风声鹤唳草木皆兵。指挥不灵的局面，李宗仁也以治病为名跑到美国去了，一时间中枢无主，整个国民党政府极为混乱。
谷正伦八月二十五日到重庆开会期间，又再次当面向蒋介石以年老体弱为由，呈请辞去本兼各职‘蒋以在野之身无权干预军政为由，要其勉为其难。在撤出贵阳前，谷胃疾加剧，时伴与吐血和便血，已经很难支持，他在不顾一切杀了刘伯龙之后，又率省政军机关进驻到盘县，在盘县的当晚即致电在台湾的行政院长阎锡山呈请易地就医，阎不答，谷正伦又致电谷正纲面恳阎院长迅赐批复，不久接到谷正纲复电：“经请示阎院长，兄病可异地疗养，”谷看完复电不禁老泪纵横，遂即把全省军政作了安排：全省划为四个绥靖区，以刘鹤鸣为黔西北绥靖区司令，余廷辉为黔东绥靖区司令，谭本良为黔西北绥靖区司令，吴剑平为黔北绥靖区司令。他的本兼各职：省府交由省府秘书长何朝宗负责，绥署交由绥署付主任王丈彦负责，保安司令部交由保安付司令兼101军军长韩文-焕负责，对于粮食补给如有不济，在回防邯未迁到昆明前，可持介绍信到昆明找他的好友杨石生。由杨石生找云南卢汉协助解决。安排好以后，12月5日谷正伦率新闻处长蔡云，卫生处长贾智钦和卫士由101军的余启佑派一个连护送到昆明，住在他的老友杨池生家治病。
谷离开昆明后随机到了香港，就在香港居住主下来就医，才在香港呆了两个多月，50年2月接到台湾行政院命令，命令一切滞留在香港的国民党军政人员必须到台湾归队。接着在三月份，台湾“监察院”指责李宗仁留美不归，提议“国大”弹劫李宗仁，并提出对归降大陆和滞留海外不归的官员停发工资和开除党籍的处分。其时谷正纲，谷正鼎早已到了台湾，于是谷正伦在1950年四月硬着头皮到了台湾，住在台北中山北路其六弟谷正鼎家中，当时蒋介石已复总统位，得知谷正伦到来求见，立即召见，蒋对桂系是深恶痛绝的，因听到先逃跑到台湾的军统贵州站站长陈某，为了要卸脱擅自逃跑的责任，就报告称谷正伦勾结桂系，要杀掉他们，及至刘伯龙被杀，他则是认为谷正伦为讨好桂系而杀了他的亲信，于是在召见时就问；“我把贵州交给你，贵州未打一枪就丢了，你们甚至临阵杀将，把我委派的人也杀了……”谷正伦就把刘伯龙怎样的乱杀人，怎样专横跋扈不听命令，怎样不听省政安排，擅自乱下条子乱委师旅长的情况向蒋述说了一遍，并说刘伯龙不遵部署，不听命令，将派去接他部队的车辆，不按期到马场坪集结，而用这些车押运他的私货到龙里家中，还擅自吞并吃掉友邻部队……贵州派人与广西连络，同时也派人与周边邻省连络，以图得到他们的协助。白崇禧当时拥有重兵坐镇华中，贵州没有能打仗的兵，联络他是希望他能派兵支援，也是为了侏住贵州的一种举措……。经过几次蒋的召见和查证以及谷的辩解，蒋再也没有追究下去，得免于处分。
国民党退到台湾以后，僧多粥少，很多元老重臣也被退出了决策圈，于是蒋介石就把这些元老重臣安排进了“总统府战略顾问委员会”，其时台湾处于风雨飘摇之中，为了备战，接着宣布“调整文武、军、公职人员待遇，只定量配给生活必需品和发给津贴，除此以外不得有其它收入”。
谷正伦经过蒋几次的召见并责令其反省后，得免予处分。到了年底一1950年10月14日安排他为“总统府战略顾问”后，则顾而不问了，自此每月就和其它丈武军公职人员一样，拿一点按定量配给的生活必须品和顾问津贴过日子，而无其它事情可做了。
1952年10月台湾实行军官假退除役制度，一级上将阎锡山，徐永昌等，二级上将何健，林蔚、朱绍良等，中将加上将衔及上将待遇的杨森，李品仙，钱大钧，俞济时等，中将万耀煌，徐庭瑶，贺国光等，中将三十七人，少将八十名，另外还有上校，中校，少校各级人员被宣布假退除役，谷正伦也名列其中，以中将衔退役。
1953年缠磨谷正伦大半生的恶性胃病终转化为胃癌，当送到台北中心诊所时已不能治，终在十一月三日与世长辞，终年六十三岁，临终之前，叮嘱其弟谷正纲二事：死后墓碑上只由谷正纲题写的中国国民党党员谷正伦之墓”，不写官衔。独子同生远在美国读书，希望其弟多加照应，设法接回台湾与夫人陈伯坚，使其母子团聚。谷正伦死后，蒋介石明令褒扬，颁“忠芜w垂型”挽额。1954年元月六日，追赠陆军二级上将衔，遗体暂厝于台北六张黎。1982年座落在台北汐指的“国军示范公墓”落成，谷正伦夫人会同谷正纲夫妇，才又将谷正伦灵柩迁葬于“国军示范公墓”上将区一号墓园。
谷的五弟谷正纲，历来是汪精卫改组派的得力干将，经常与蒋介石过不去。以后当了中央委员和社会部长，再后来汪精卫投靠日本人，谷见蒋不记前嫌，因此也就倒向蒋的一边，死心踏地为蒋尽愚忠。1949年蒋因桂系所逼下野，谷正纲坚决反对蒋下野，死硬反对国共和谈，蒋下野后为表示与蒋共进退。他辞去社会部长职到上海配合汤恩伯保卫上海，死硬到怀揣一包氰化钾，准备在城破之后自杀。上海快被解放时，蒋令他撤到台湾，他才把家眷带着上了最后一班船跟随败军到了台湾。7月蒋在广州成立“中央非常委员会”。他被指定为委员，在成立“总裁办公室”的时候又被指定为党政组长，蒋经国为付组长，并要他起草改造国民党的文件，国民党败