一九二八年日本人為了紀念日皇裕仁登基，並作為施政紀念事業重要建設項目之一，拆除了清末布政使司衙門，並將部分拆除的建築物移到植物園陳列，而在原址開始籌劃興建「台北公會堂」。「台北公會堂」正式動工是一九三二年十一月二十三日，工程費時四年，於一九三六年十一月二十六日建造完成，主要設計者為總督府技師井手薰，全部工程共耗費九十八萬日圓，動用工程人員九四五OO人。

   

公會堂的建築本體採用鋼筋混凝土所造，為四層式鋼骨建築，是當時依現代建築法所建最牢固的結構體，無論其耐震、耐火、耐風，其性能均極為優良。公會堂面積有一二三七坪，建築物總坪數則有三一八五坪，它的主要特色是建築式樣採極自由的形式，並具有西班牙回教式建築風格，其空間可容納人數，也僅次於東京、大阪、名古屋等公會堂而居第四位。

 

到了一九四五年（民國三十四年）抗戰勝利台灣光復，台灣省受降典禮便在公會堂舉行，當時場面極為盛大，受降典禮由臺灣省行政長官公署長官陳儀代表中國戰區最高統帥受降，日方投降代表則由臺灣總督兼第十方面軍司令官安藤利吉等人代表出席，行此以後被日本人統治五十一年的臺灣，正式重返祖國懷抱。

 

光復後「公會堂」更名為「中山堂」並由台北市政府接收，內部的「大集會場」、「大宴會場」「普通集會室」也同時改為「中正廳」、「光復廳」、及「堡壘廳」。其後中山堂的主要功能之一即為召開國民大會之場所，並且成為政府及各界舉辦重大集會之空間。