清康熙末年閩南移民於南門外御史崎興建小祠供奉觀音菩薩，西元1796年（嘉慶元年）遷建於現址，始稱竹蓮寺。西元1825年（道光5年）林紹賢重修，1829年（道光9年）再進行重修，1866至1873年間（同治5至12年）由陳長水、莊榮陞、湯奇才及重建委員進行擴大重建，清光緒帝並贈匾額「大海慈雲」。1951年（民國40年）信士許振乾等人集資重修，與城隍廟、外媽祖廟同為新竹市三大主廟。1983年至1986年（民國72至75年）重修兩廂及圖書館。