1928年日本人為了紀念日皇裕仁登基，並作為施政紀念事業重要建設項目之一，拆除了清領末期布政使司衙門，並將部分拆除的建築物移到植物園陳列，而在原址開始籌劃興建「臺北公會堂」。 「臺北公會堂」正式動工是1932年11月23日，工程費時四年，於1936年11月26日建造完成，主要設計者為總督府技師井手薰，全部工程共耗費98萬日圓，動用工程人員94500人。 公會堂的建築本體採用鋼筋混凝土所造，為四層式鋼骨建築，是當時依現代建築法所建最牢固的結構體，無論其耐震、耐火、耐風，其性能均極為優良。公會堂面積有1237坪，建築物總坪數則有3185坪，它的主要特色是建築式樣採極自由的形式，並具有西班牙回教式建築風格，其空間可容納人數，也僅次於東京、大阪、名古屋等公會堂而居第四位。 到了1945年（民國34年）二戰後，台灣省受降典禮便在公會堂舉行，當時場面極為盛大，受降典禮由臺灣省行政長官公署長官陳儀代表中國戰區最高統帥受降，日方投降代表則由臺灣總督兼第十方面軍司令官安藤利吉等人代表出席，行此以後被日本人統治51年的臺灣，正式重返祖國懷抱。 二戰後「公會堂」更名為「中山堂」並由臺北市政府接收，內部的「大集會場」、「大宴會場」「普通集會室」也同時改為「中正廳」、「光復廳」、及「堡壘廳」。其後中山堂的主要功能之一即為召開國民大會之場所，並且成為政府及各界舉辦重大集會之空間。 中山堂在過去歲月裡，經常為政府接待外國貴賓的場所，其中最受矚目的有美國前總統尼克森、韓國前大統領李承晚、越南前總統吳廷延、菲律賓前總統賈西亞、伊朗前國王巴勒維等外國元首訪華，均在此舉行國宴，此外中美簽訂共同防禦條約及中華民國第二、三、四任總統、副總統就職大典也都在此舉行，由於這些珍貴歷史突顯了中山堂的特殊地位，嗣經內政部於1992年（民國81年）將中山堂列為國家二級古蹟。 民國88年改隸文化局，由臺北市立國樂團進駐。民國100年空間整修，設專任主任，並增設多處空間，成為臺北市兼具有教育、藝文及休閒之多功能場所。