臺東與關山（舊稱里壠）之間的鐵道，最早是明治43年（1910），由私人營運的輕便鐵道（又稱手押軌道）開始。大正8年（1919）底，臺東製糖株式會社將這一段改為762毫米的糖業鐵道，稱臺東製糖會社線。里壠在這一段期間就設有停車場，或稱「驛」，就是今日的火車站。大正11年（1922）臺灣總督府鐵道部收購臺東製糖會社線，與花蓮港至璞石閣（今玉里鎮）的臺東線接軌，稱為「臺東南線」，成為國有鐵道，同年4月20日開始營運。里壠驛站房的興建時間，大約是在此時。昭和12年（1937）11月1日，因應地方制度改正，將里壠驛改為關山驛。 二戰後，關山驛先被改稱里壠站，之後又順應民意改回為關山站。民國69年（1980）花東鐵路拓寬為為1,067毫米，鐵路局在東側另設新的關山站，舊站改作貨運服務處，後來閒置。民國94年4月，由臺東縣政府爭取到經費，發包維修。耗時半年，終於恢復原貌。是東部鐵路幹線僅有的，現地保存的日治時期車站建築。 關山舊火車站（舊稱里壠驛或關山驛）距離現今關山火車站約100公尺，是和洋折衷式建築。建築左右對稱，仿北美地區（盎格魯美洲）尖屋簷草原穀倉（Peaked Prairie Barn）式樣，主要為磚木結構。前後為復折式（或復斜式、複折式、複斜式）屋頂（Gambrel roof，日本稱腰折屋根），兩端切角加半切妻屋頂（Jerkinhead roof），形成獨特的六角型視覺效果。牆面上部有一個半圓形的小氣窗，底下是縱橫相間的幾何線條四格式採光窗。左右延伸出兩坡水屋頂（切妻屋根），兩側外牆為英式雨淋板。雙面的六角型屋頂加上半圓及縱橫相間的幾何線條，是一種巧妙的藝術設計，在臺灣地區極為罕見。 復折式屋頂也被稱為荷蘭式屋頂，其復斜兩坡造型看起來跟馬薩式屋頂的復折式屋架（桁架）非常相似，所以關山舊火車站過去曾被解讀為馬薩式屋頂。但兩者是有區別的，復折式屋頂是復斜兩坡式，馬薩式屋頂多為復斜四坡式或四陡坡加平台帶鐵欄杆。 關山火車站（關山驛）於民國106年（2017），跟同名的日本新潟縣越後心動鐵道的關山駅，締結為姐妹站。另《臺灣日式建築紀行》一書的作者，日本一級建築師渡邊義孝，於2019年有專文發表在日本廣島縣中國新聞，高度推介關山舊火車站建築半圓窗加四格窗的裝飾之美。同時肯定建物現地保存及原樣修復，保存人類遺產的做法。