後山最高的行政中樞–縣府所在地廳舍建築，僅留存少部分屬日治時期，周圍已換上現代高聳大樓，成為繁華的商業區段。清朝設立臺東直隸州署，在現今地點有三十二間草房，胡鐵花任知州時，為了抵禦日人入侵曾一度移至阿里擺（賓朗村牧場附近）。日治時期再回到中山路原址興建臺東廳舍，建坪達六百三十五坪，除正面二樓洋房式，其餘皆為木瓦製平房，二樓則當作禮堂使用，其建築皆十分堅固，磨石子牆基雖然沒有挖深地基，但是要推移非常不容易。民國66年（1977），黃鏡峰擔任縣長時予以改建為現今敞開式三樓建築物。作者林建成透過繪畫完成《後山老厝林建成彩墨展》一書，此書於民國85年（1996）1月27日出版。書中介紹了臺東縣內保留下來的老式建築，例如廣恆發商號、南王青少年會館、臺東氣象站、成廣澳天后宮等。
後山居民的生活痕跡可以藉由老建築的保留來了解當時的樣貌，《後山老厝林建成彩墨展》一書藉由現存的老厝樣貌與歷史資料，加上繪畫，呈現了老厝的歷史風華。此書出版於民國85年（1996）1月27日，由林建成先生所創作。本計畫鼓勵共創共用，然使用時請尊重原創者文字本意，圖片亦請勿切割改作。