1898 年，泰山設立「淡水國語傳習所山腳分教場」，同年改設為公學校，1912 年北臺著名墾首林作哲之五世孫林和尚先生，捐獻山腳庄溝仔墘街土地予山腳公學校，供學子就學。開始以「泰山國小」為名，是在 1968 年實施九年國民義務教育時變更的，此後學校積極朝向各領域多元化發展，在國語文、田徑、音樂、球類等獲獎無數。民國七十年代，積極推動生活教育，辦理多項全縣及全省性的觀摩活動，深獲好評，迄今，泰山國小在資訊教育、特殊教育、幼兒教育及閱讀教育等各方面，師生始終努力不懈、堅持初衷，共盼世紀史蹟永存、百年風華再現。