上水道(自來水)是近代都市發展的基本設施。岡山街是岡山地區最重要的市街，是人群和貨物的匯集處，因此，上水道的修建也就相對重要。岡山上水道創建於大正14年(1925)11月，隔年3月完工，是利用清代圳道結合新式淨水設備的小規模簡易水道。然而啟用不久，水道便發生供水不足的問題，於是在昭和4年(1929)2月進行第一次擴建工程，才足以穩定的給水。隨著軍事和交通地位的提升，岡山街人口增加以及海軍省的施設規劃，乃於昭和12年(1937)11月展開第二次擴建工程。這次擴建將供水區域從市街擴大到後紅、前峰以及後來的海軍航空隊一帶，因此供水的水壓勢必得大大提高，而建造高聳的淨水儲存塔利用高差重力供水為當時的作法。岡山水塔就是當時因應此需求的作品，昭和13年(1938)4月完工啟用，滿水位標高25.4公尺。往後五十餘年間，岡山水塔肩負供給潔淨用水的使命，直至民國81年(1992)停用。不僅如此，其位於岡山市街台一線旁的樸素典雅身影，已經成為岡山市街的重要地標。