鳳山龍山寺創建於清乾隆初年，約於乾隆29年(1764年)間已有基本的規模，惟初建時的格局、式樣已無法考究。創建緣起於一個有關觀音菩薩香火的傳說，相傳有一位來自中國的福建人，隨身攜帶觀音菩薩香火，路過本地古井汲水止渴，乃將香火掛於井旁石榴樹上，離開時卻忘了帶走。後來這個香火每夜發光，鄉人認為菩薩顯靈，乃將石榴樹砍下雕成觀音佛像，建寺奉祀，即為龍山寺。乾隆年之後至少歷經五次修建，大致仍保有古樸的格局和樣貌，迄今已有二百多年的歷史。