明鄭亡後，民眾對鄭成功念念不忘，暗中設廟奉祀，卻因政治顧慮，改稱「開山王廟」。直到清同治年間，欽差大臣沈葆楨來台籌辦防務，深入瞭解民意，才上疏朝廷，強調鄭成功是「明室遺臣」，而不是清朝的「亂臣賊子」，建議追諡建祠，列入祀典。朝廷核准後，官民籌募經費，從福州載來工匠、材料，將開山王廟擴建成一棟台灣少見的「福州式」建築。名稱也改為「明延平郡王祠」。日治以後，鄭成功因與日本有血緣關係，所以倍受推崇，祠名被改成「開山神社」，增添不少日式建築風格，每年祭典更成為府城一大盛事。光復後，民國52年興工重建，整體格局大致不變，建築則由福州式改為北方宮殿式，即今日的模樣。正門上刻著「奉旨祀典、明延平郡王祠」也依舊保存著。