山上社區舊名「山仔頂」，山上天后宮為居民主要的信仰中心，主祀玉二媽，香火鼎盛，信徒眾多。社區中亦有天主教堂，為日治時期建築，目前由德蘭啟智中心設置照陽幸福小站暨友善家庭服務據點，頗具特色。山上社區最富傳奇的人物就是清末時期因製糖而致富的林雹，其古厝為傳統閩南式三合院，獨特的護龍山牆，與正廳前的軒亭立柱突顯出大戶人家的氣派，可惜年久失修又歷經地震，逐漸毀壞。而2005年升格為國定古蹟的原臺南水道，也經修復整理及重新規劃，2019年10月以「臺南山上花園水道博物館」重新開幕，成為山上社區新的觀光景點。