日本統治臺灣初期在竹山地區興建許多建設，如成立林圯埔郵便局（後為林圯埔公學校，今日全聯位址）、林圯埔支署，新設林圯埔支廳取代原警察署為竹山最高行政機關。後又成立東京帝國大學農學部所屬作業所（今臺大實驗林管理處），設林圯埔消費市場（今竹山零售市場），興建林圯埔公學校（今竹山國中位址）。明治41年（1908）修築輕便軌道，從林內經竹山市區通往名間，並在此期間設竹山製糖所、林圯埔局儲存樟腦及樟腦油，另外三層東洋型式樓房的竹山農會也在大正3年（1914）成立。

臺灣總督府亦針對臺灣道路改善和衛生環境及土地徵收等條件，將城市改造稱為市區改正，規模全面者稱為市區計畫。明治 43年（1910）由總督府設置市區計畫委員會，由中央審議市區計畫，竹山市區計畫於大正6年（1917）啟動，大正8年（1919）宣布實施街道改正至昭和11年（1936）止，才將棋盤式的竹山街道改正計畫實施完成。

後來竹山市區道路命名原則為：南北向稱「路」，東西向叫「街」，三大街順地勢高低，地勢高者稱頂橫街、橫街及地勢最低的下橫街；主要的三條道路依歷史發展脈絡稱竹山路（清領）、雲林路（劉銘傳建省時期）與集山路（日本統治時期）。早年竹山戲院就設在橫街上，旅社、藥房、服裝店、五金行、菜市場，甚至竹材行等都聚集在此，當地人笑說竹山人一生所需物品均可在橫街找到。