日本治台之初，陳祖疇等17人於明治29年（1896）3月8日在坎興街創立「坎興鸞堂」以敬祀岳武穆王，作為忠孝節義之範本。同時「勸善局」莊贊勳等10人，有意與「坎興鸞堂」共建廟堂，故由楊士芳進士號召建廟事宜，明治30年（1897）始購地興工建廟，至明治32年（1899）正殿落成，取「碧血丹心望曉霞」之意而定名為碧霞宮，同時將「勸善局」併附於宮內。

嗣後，有多次增建翻修，1984年，募款添購廟宇後面的空地，計畫擴建。1991年10月，重建籌備委員會成立，廟方委託建築師規劃重建；1992年完成設計請照，1997年，縣府將廟後方土地規劃為楊士芳紀念公園，同時依新修訂之文化資產保存法，指定碧霞宮為縣定古蹟。由於文物碩多，廟方購置西鄰房舍，建置為「武穆文史館」，1999年落成，展出岳武穆王墨寶、生平文物史料與扶鸞相關文物，讓更多人在觀看文物間，了解碧霞宮的歷史與其在地方上的重要性。