台灣的現代教育，始於明治29年（1896）芝山岩「國語傳習所」。明治31年（1898）臺灣總督府頒布「臺灣公學校規則」，將原先的國語傳習所改為「公學校」。此時期日本人適用〈小學校令施行規則〉，臺灣人則就讀公學校，臺籍和日籍學生在教育年限和教授課程的差別十分明顯。當時接受教育者仍以臺灣社會中的仕紳階層子弟為主，因此即使設立公學校，臺灣學齡兒童入學比例並未超過百分之十。至於虎尾地區的現代教育則始於大正7年（1918），根據「臺灣公學校規則」創立「土庫公學校五間厝分教場」之時。公學校是日治時期「日臺分學制」背景下，提供當時五間厝境內臺籍子弟所就讀的學校；而「分教場」則是隸屬於土庫公學校轄屬的「分校」。

一次大戰結束後，首任文官總督明確揭示「同化主義」的統治方針，再度頒布「臺灣教育令」。大正9年（1920）臺灣實施州廳郡市街庄制度，虎尾脫離土庫獨立設治，大正10年（1921）單獨設立「虎尾公學校」，「五間厝分教場」改制為「臺南州虎尾郡虎尾公學校」，為虎尾國小的前身，專收虎尾街的臺灣學子。隨著虎尾人口持續增加，「虎尾國民學校」校園腹地和教室空間不足，於是再興建設立新學校，原「虎尾國民學校」更名為「虎尾北國民學校」。