日治時期，臺東水道的汲取口在大南社（今臺東縣卑南鄉東興社區達魯瑪克部落）入口處的橋旁邊，水源為取自呂家溪溪水（今利嘉溪）。臺東水道設置前當地居民還是沿用早期的水井取水，但因臺東地區地下水水質不佳，居民感覺生活受到水質的影響造成不便，便向總督府陳情，大正7年（1918年），總督府開始實施調查，計畫於大正13年（1924年）開始為期3年的施工，但因日本本土於大正12年（1923年）發生的關東大地震而無限延期。後於大正15年（1926年）8月正式動工，於昭和5年（1930）3月，自呂家溪、途經呂家淨水池再到市街地鯉魚山的水道設施正式宣告完工。