新埤頭乃是新埤村的舊地名，早期村民沿林邊溪逆流而上抵達新埤頭時，發現此地有廣闊的天然河床及一大片叢林，就在此開埤做圳進行開墾，同時也因此以新設埤圳作為灌概之義為名，將此地取名為新埤。位在庒裡的此座開基伯公早在日昭和16年（1941年）就已在此，但新埤頭聚落的歷史可追溯至清代，據當地村民表示早期為石頭伯公，並各有一棵榕樹與芒果樹與其相伴，民國59年(1970年)改化胎式(形似墳塚)伯公，後面的榕樹與芒果樹則砍掉了，約民國70年代才改建為此八角涼亭式的伯公祠。
開基伯公的建築體是攅尖頂的建築，屋頂為筒板琉璃瓦中間以葫蘆做造型，伯公祠外觀有八根洗石圓柱，祠前門口兩邊圓柱上的楹聯為：「福大佑民光日月，德施斯土定山河」，正面掛有「福德祠」之名，祠內供奉的伯公有伯公塑像，在神像後面是民國59年(1970年)所建的碑石伯公，碑石刻寫著開基福德正神香座位，左邊：民國庚戊年桂月立，神龕兩邊的龕對為：「福協乾坤大，德同日月長」，祠前面放置石製的供桌，兩邊各設有石椅，伯公祠前面是鐵皮搭建的拜亭，兩側各放置有木椅，供村民在此休憩用，拜亭上面有著以大理石材質刻寫著新埤頭開庄伯公的石匾。
伯公祠前面正中放置天公爐，左側放金爐，此座伯公分多次不同年代修建，開基伯公祠為坐南朝北的方向，也是聚落形成時最早的伯公。
伯公祠每年農曆正月十五會在此做新年福及新丁祈福，前一天伯公祠前會搭建福廠，並請庒內各角落的伯公及庄中公廟裡的主神三山國王到此做客，據村民表示：早期伯公祠做祈福祭典時會搭建福廠，晚上時會顧請村民叫葉有祿的人負責顧福廠，在凌晨睡意正濃時，冥冥之中有看到伯公騎著馬載另一個聚落千三庄的頓水伯婆來此做客，此段神仙眷侶的故事也憑添了伯公祠每到舉辦新年福時的一段佳話，也拉近兩個聚落村民的情感。
