日治之初，臺南設縣，縣廳設於清領時期臺灣分巡道按察使之巡道署(今永福國小址)，直至大正初年，始新建新廳舍於幸町，於一九一六年(日大正五年)落成啟用，即為今日之臺南市政府。此建築為總督府技師森山松之助之作品，二次世界大戰之時曾遭受盟軍轟炸，重損毀，二戰後曾歷數次整修。就建築史而言，此建築是臺灣當時幾個廳舍中之代表作之一，其他同類之建築尚有臺北廳舍(今監察院)及臺中廳舍(今臺中市政府都市發展局、環境保護局)。一九二0年(日大正九年)臺灣行政架構調整，臺南廢廳置州，臺南廳舍改稱「臺南州廳」。 二戰後曾閒置數年，民國38年（1949年）空軍供應司令部自上海遷至臺南進駐此建築。民國58年（1969年）臺南市政府收回後改為臺南市政府，民國86年（1997年）市政府遷移至新建築後，文建會自民國86年（1997年）開始投入經費，進行原臺南州廳建築之調查研究，並擬在進行古蹟修復後，將其再利用成立國家臺灣文學館與國立文化資產保存研究中心籌備處；臺南市政府於民國87年將本廳舍正式移交給文建會使用，並在當年5月由市府指定為臺南市市定古蹟，並於民國92年（2003年）完成修復再利用之工程，由陳森藤建築師事務所設計監造。修復再利用工程完工後，臺南市政府提出申請，擬將其與另外四處市定古蹟升列為國定古蹟；後經內政部於9月1日召開審查評鑑會議通過，以92年11月10日臺內民字第0920062231號文，將原臺南州廳公告指定為國定古蹟。