中國大陸文革時期「破四舊」，很多人把家中神祇拋棄，以免受到迫害，國軍當時常在海邊撿到落難神明，民國五十幾年間，老頭山澳口漂來一尊木質神像，被駐軍撿起後，用水泥磚砌成一座小廟供奉其中。後來該廟先後出現兩次靈驗之事，民眾崇祀卻不知其名，直到察看神像面相時，發現其腳踏蛇龜，身著八卦衫，手持寶劍，乃知祀神是玄天上帝。

起初玄天上帝被國軍奉於小廟時，民眾不甚留意，直到有一天，原來山林茂密的老頭山竟發生大火，周遭林木盡遭焚燬，唯獨廟宇安然無恙。

又有一天，有國軍弟兄開著一輛兩噸半軍用卡車經過老頭山，由於道路陡峭，從上坡急衝下來，坡下即是懸崖，駕駛員剎車失靈，滑向陡坡，最後關頭當車子滑至神祇視線正前方時，後輪卡到路樹，僥倖未摔下山崖。正副駕駛小心翼翼爬回路面時，目睹事故之士官長注意到神像，便向連長表明是神明顯靈出手相救，便建議連長供奉這尊神明，於是請阿兵哥幫祂蓋了一座簡陋的小神龕，讓祂不會風吹雨淋並且定時焚香膜拜。

戰地政務時期，老頭山區域屬軍事管制區，但會在每年農曆正月初一這天開放，讓居民能夠進入禁區內向玄天上帝進香祈福，分享威靈。有一回，東莒全島舉行迎神遶境，車隊經過本廟疏於向神明致意，引導車突然不能發動，信眾經長老提示趨前膜拜後，隊伍又能順利行進。