岁月不饶人，蒋介石为了儿子的接班问题，可谓煞费苦心。到台后，蒋看到他的部下亲信在解放战争中纷纷投降中共，愈觉军政要员并不可信，传子之心更加迫切。为了便于长子继位，蒋介石对党政部门进行了改革。首先委任蒋经国为台湾省国民党党部主任。1949年8月20日，蒋在台北园山成立“政治行动委员会”，由唐纵任主任委员。到了1950年，改由蒋经国任此职。从此，蒋经国掌握了台湾最高特务机关。1950年3月，蒋经国任“国防部总政治部主任”、“中央改造委员会”委员。1964年2月，蒋经国任“行政院”政务委员兼“国防部”部长、二级上将。次年升为一级上将。1967年“政治行动委员会”改为“国家安全会议”，仍由蒋经国主持。1972年，任“行政院长”，已控制了台湾的党、政、军、特大权。为了便于蒋经国培植自己的亲信，建立自己的军政干部体系，1950年9月，国民党在蒋介石的指示下，专门建立了一所军政干部学校。该校标榜信仰“伟大领袖蒋介石”和“青年导师蒋经国”，其真正的目的是为蒋经国时代做准备。
蒋介石在安排长子的同时，也把二陈的势力打击殆尽，为自己的长子腾出位子。1950年陈果夫已多病缠身，在政治上如同废人，陈立夫成为真正头头。蒋介石于是把陈立夫放逐到美国。蒋经国接手特务机构后对其进行了整编。中统解散后，军统被改成“国防部情报局”，主要是搜集大陆“中共的军事情报”。这时，蒋经国一手抓总政，一手抓台湾的特务总部，成了名副其实的大特务头子。为了使蒋经国能够顺利地“登基”，蒋介石搞的最大的动作是吴国桢和孙立人两案。1950年代前中期，美国想在台湾国民党各派中扶持一文、一武：文的是吴国桢，武的是孙立人。但这两人都没有好下场：一个被迫远走美国，一个被软禁多年。对此，美国纽约《中报》1988年4月17日发表声明说：“国民党退台之初，最具有国际声望的文武官员吴国桢、孙立人，在‘侯门深似海’的中国官场上，首先充当了蒋氏父子权力重新组合的牺牲品。”而今，吴、孙均已经谢世，但台湾的官民对此仍愤愤不平。