清領時期，臺灣三大亂事之一的戴潮春之亂，其手下大將林晟曾帶三萬六千大軍來攻打阿罩霧，當時下厝林文察正帶領霧峰地區訓練精良之臺勇渡海前去協助清廷平定太平天國之亂，因此當時霧峰地區林家僅剩單薄人力，所幸當時有東勢羅冠英與太平林家族人的支援，加上僅有之幾座大砲，在頂厝的林文鳳帶領下，靠著精良的武器，以寡禦眾，擊退林晟的軍隊，成為佳話。 林獻堂惟恐後代子孫遺忘先人之功蹟，因此於1921年建立石碑基座，以當時最流行的洗石子設置底座，建立鐵砲碑以示紀念，並在石碑後面也以洗石子方式再刻一碑文用以流傳後世。碑文部分由出生臺南，經林家資助上京考取進士的陳望曾所著，將當時砲火猛烈，情況危急，表現得淋漓盡至，而碑文後還有林獻堂之七言詩讚。相傳於石碑前原有一尊鐵砲陪襯，故名鐵砲碑，然而因年代久遠，鐵砲已不復見，亦無可考。