1910年代初期，臺灣總督府已設有臺北、臺南中學校及臺北、臺南高等女學校等四所以授與中等學校教育為主的學校。由於差別待遇的教育原則下，四所授與中等學校教育為主的學校，皆以日本人子弟作為教育的對象，而對臺灣子弟則採較消極教育政策。 1922年（大正十一年）發布第二次《臺灣教育令》，實行「內臺共學制」，藉由此制度，使臺灣人感受與在臺日本人擁有同樣的教育制度，進而達到同化之目的，此後開始增設臺日共學及各地供臺灣人就讀之中學。 1922年（大正十一年）4月1日，臺南州立臺南第二中學校成立，目的為臺灣南部青年提供升學教育。當時處於日人統治時期，所有學校組織和課程內容都依循日本學制。 學校創立初期，設在竹園小學上課，校舍簡陋，設備簡單，後來通過地方人士的贊助，逐漸改善校舍和設備。1928年（昭和三年），隨著班級逐年增加，校舍擴建，設備增加，學校建設工作基本完成。 二戰後，學校改名為臺灣省立臺南第一中學，學校制度逐漸改革。1943年（昭和十八年），校名再次更改為臺灣省立臺南第一中學。 此後，學校不斷發展壯大，增加了各種設施和活動項目，如體育館、學生活動中心、餐廳等。教學設備也得到不斷改善和充實。