日本治臺後，將縱貫鐵路的興建列為首要的施政計畫，首任總督樺山資紀請鐵路技師小山保政調查臺北到基隆之間的鐵路，發現有不堪使用之情況；1899年（明治32年）縱貫鐵路正式由南北兩端開工，路線的設計、規劃，則是由當時的臨時臺灣鐵道敷設部技師長「長谷川謹介」負責，大幅修正清領時期的舊線路，1908年（明治41年）4月20日南北兩端鐵路終於在中部接軌，全線通車，同年10月24日臺灣總督府在臺中公園舉辦「縱貫鐵道全通式」，目前臺中公園內現存的湖心亭（舊名雙閣亭）即是當時通車典禮所興建的紀念建築。