大埤三山國王廟，係由原籍中國廣東饒平的潮籍移民於康熙年間所創建；嘉慶十四年（1809），由張元國、張元基兄弟，集資改建；明治三十九年（1906）大地震後三山國王廟倒塌，昭和六年（1931）重新鳩資起建廟宇並新刻鎮座神像，其為本建築主要完成年代。 昭和六年（1931）的臺灣，在經濟上已然厚實，除部分重要廟宇延聘唐山匠師主持外，亦有本地匠派因有高超的技藝而有極大的發揮空間，如明治四十一年（1908）完成北港朝天宮的陳應彬匠師，即為最具代表性的人物與案例，其於昭和六年完成的大埤三山國王廟，亦是其重要作品之一。日治時期興建的臺灣廟宇建築受洋風影響，以及雲嘉地區重要的地區性手法「堆塑」，均在昭和年間的修建過程中採用，成為多元文化交融並列的豐富形式。 二戰後，三山國王廟曾歷經多次修建，除建築材料改變、剪黏裝飾增加外，亦新建香客大樓、鐘鼓樓等，然廟宇建築本體仍維持昭和年間修建之樣貌，後於民國八十五年（1996），經內政部審查通過，指定為第三級古蹟。