而日治時期已有的環島鐵路計畫，隨著北迴線在民國六十二年（1973年）12月25日動工而再次有所進展，與此同時開始的重要鐵路工程還有縱貫線的鐵路電氣化，不過北迴線動工當時路線尚未定線，工程單位也未設置，預算也未估算定案。而對北迴線工程來說，最大的挑戰是隧道工程，為此從美國引進名叫「大約翰」（Big John）的大型潛盾，原本預計以每日開挖約30公尺的進度在三年半內挖完所有的隧道，但是實際施工時發現地質遠比調查時複雜，並非全是該機型擅長的硬土質地層，導致「大約翰」在開挖一千多公尺後便報銷，只得再從日本僅進機具繼續剩下的工程。此外工程中的永春隧道因有豐沛的地下水，每分鐘湧水量可達五、六十噸，颱風豪雨後甚至可達一百五十噸，為此施工單位興築了小型引水隧道將水引入太平洋。最後北迴線工程在民國六十八年（1979年）年底完工，隔年（1980年）2月1日舉行通車典禮。此外由於原本並不看好北迴線的營運狀況，所以北迴線剛開始只有單線，後來客運、貨運量卻使單線鐵路無法負荷，故從民國八十一年（1992年）起又進行了北迴線的雙軌化、電氣化等改良工程，過程中因改線而開挖不少新隧道，之後於民國九十二年（2003年）6月底完工，7月4日在花蓮舉行通車典禮。
北迴線通車之後，使得原本獨立的宜蘭線與臺東線相連起來，但是由於日治時期臺東線的軌據是762mm的軌距，故車輛不能互通，是以在民國六十七年（1978年）開始了東線拓寬工程。而在東線拓寬工程之前，臺鐵也盡可能改善臺東線的狀況，並讓光華號特快達到以時速70公里的速度行駛的紀錄。而東線拓寬工程除了更改軌距之外，也對於部分狀況不佳的路段進行改線，如「中興改線段」（原鹿野經中興、初鹿、檳榔等站進入臺東舊站的舊線，後改為鹿野經山里、臺東新站的路線）。而在整個工程進行中，臺東線依然繼續營運，並在民國七十一年（1982年）6月25日一夜切換，臺東線自此從762mm軌據換成1067mm的軌距。不過自強一號隧道因為施工過程出現問題，隧道遇到淤泥層，故民國七十一年（1982年）時仍用舊的掃叭隧道，新隧道在民國七十三年（1984年）取代掃叭隧道後東拓工程才算真正完工。
而與北迴線同時進行的縱貫線電氣化工程可以說是縱貫線整體的改良工程，原本希望藉由改良縱貫線來與公路運輸競爭，但是在施工過程中因縱貫線仍繼續行駛，使得行車秩序受到工程影響，而且在山線隧道部分因為是以原隧道往下開挖以增加空間來架設電線，導致鐵軌只好暫時用枕木架起來，列車經過也只能放慢速度，而施工過程中發生的各種意外更是影響到列車的行駛。結果鐵路電氣化的施工造成縱貫線誤點情況惡化，而施工期間中山高速公路於民國六十七年（1978年）通車後，臺灣省公路局國光號、中興號大幅搶走臺鐵客源，隔年（1979年）6月鐵路電氣化完工後，由於初期效能並未明顯提升，導致長途旅客並未，而且由於工程費用全由臺鐵自行籌措，有六成向外國借貸融資，而且就在高速公路通車的那一年臺鐵的營運開始由盈轉虧，使得臺鐵在收入減少、人事成本過高的情況下虧損額逐年增加，也無力償還鐵路電氣化的借款。
而在北迴線完工後不到一年，環島鐵路的最後一部分——南迴線也在民國六十九年（1980年）7月1日正式動工，而且過程中需要興建比北迴線更多的橋樑與隧道，而且除了與北迴線類似的地質問題外，還有勞工雇用不易、經費核定撥款過慢與土地徵收困難等問題。民國七十四年（1985年）7月15日卑南（今臺東車站）到知本通車，隔年1月1日又通車到太麻里，最後在民國八十年（1991年）12月16日舉行通車典禮，但相關設施尚未收尾完成，中華民國交通部也尚未履勘，所以當時臺鐵是以「參觀工程」的名義在12月17日到25日每天開行一往返列車招待民眾免費搭乘，之後到了隔年的1月12日，履勘勉強通過進行「臨時營運」，10月時才正式營運。
而在環島鐵路形成的同時，宜蘭線也開始在民國六十九年（1980年）7月進行雙軌化，而為了避免重蹈在原線路隧道施工影響行車秩序的情況，加上改善舊隧道的經費跟蓋新隧道的經費不會相差太多，故臺鐵多直接蓋新隧道。最後在民國七十五年（1986年）完成了宜蘭線的雙軌化，日後並在民國九十二年（2003年）7月4日完成電氣化。而後高雄到屏東的鐵路雙軌化（1983年－1987年）、電氣化及山線竹南豐原段改線與雙軌化工程（1987年－1998年）、臺北鐵路地下化（1983年－1989年）等改良工程也陸續進行。
縱貫線鐵路電氣化
依山傍海的南迴鐵路多良高架橋路段，為全台最美的海景鐵道