近代臺灣自來水設施之建置，可追溯至日治明治29年（1896）臺灣總督府聘請英籍工程師威廉巴爾頓（William K. Burton）擔任衛生工程顧問技師，與衛生課技師濱野彌四郎負責籌劃各大都市自來水（水道水）供給建設計畫。 臺中水道水源地於大正5年（1916）正式啟用，「上水塔」當時一般稱為「淨水塔」，具有沈澱淨水功能，再利用重力自然留下經地下水管配送往市區供水。 戰後（1945～）初期，改由「臺中市自來水廠」管理，民國63年（1974）併入「臺灣省自來水公司」，屬第四區管理處管轄。民國70年代（1980～）因改以水庫、淨水給水廠方式供水，水塔也改作辦公室使用。 民國98年（2009），臺中市政府以上水塔為見證臺中市自來水事業的發展，為本市朝向現代化都市發展的重要指標，具重要歷史意義及保存價值，公告登錄為歷史建築。