日治時期大正9年（1920）行政區域重新調整為「州廳郡市街庄」制度後，開始興建虎尾郡役所，並在昭和6年（1931）6月1日落成啟用。當時郡役所周圍都是重要政府機構，像是虎尾庄役場、虎尾庄衛生室、虎尾郡合同廳舍等。再以虎尾郡役所為最北端往南一直延伸到虎尾鐵橋，是日治時期最重要的商業市街。

據「虎尾街概要」記載，位在商業市街的西南端有座藏書量多達上千冊的「虎尾街圖書館」，是棟樓高二層，鋼筋混泥土外加半木結構興建的建築物，首開雲林地區公共圖書之先河。不過這棟圖書館在戰後先是被長官公署接收，未過多久，卻成為「中國國民黨虎尾鎮黨部」的虎尾鎮民眾服務站。原先日治時期的建築物的內部結構已經不復存在，內部被破壞改建成今日所見的模樣。