舊山線是縱貫鐵路最後完工的路段，於明治41（1908）年4月10日竣工，是年10月於臺中市臺中公園舉行「臺灣縱貫鐵道全通式」。從日本政府啟動縱貫鐵路興築的明治32（1899）年起計，施工期前後長達9年。當時取山線捨海線因而造就舊山線輝煌歲月，有日治時期的時空背景：無論在明治36（1896）年由小山保政等人完成的線路調查，抑或後來長谷川謹介於明治32（1899）年的路線調整方案，除了全島軍事防衛的評估之外，舊山線沿線豐富的山林物產開發和運送，也是日本衡量與覬覦之重點。

由於臺灣沿海的安全顧慮，兼以海線所在位置的河川流域過寬，建設橋墩所需的工程費用驚人，海線因此出局。山線的評估則考量臺灣內陸雖多河川，但因湍急和其他不利因素，其時並無可以運送大量貨品的水運設施，水運和陸運機能都極度缺乏，興築鐵路不僅可建構陸運系統，加上山線鐵道經過苗栗、后里和豐原三大城市，沿線能獲取的資源也廣大；最後綜合施工難易、軍事國防需要，與腹地資源豐富度的條件下，縱貫鐵路三叉河葫蘆墩段的山線規劃由此定奪。明治32（1899）年臺灣縱貫鐵路啟動，三義到豐原的舊山線路段也跟著於明治41（1908）年完成，從此來自山裡的木材、薪炭有了鐵道之便，經濟開始活絡，也造就沿線聚落的形成。