依據《寺廟臺帳》所載，重慶寺創建於1721年（清康熙六十年），座落於臺灣府寧南坊，然多份史料對此記載時間不一致史料蒐集也不完整，因此建立年代並不明確，但約可知當時的寺貌為三開間，建築形式有三川門、正殿、後殿以及2側廂房，寺宇寬敝，佛像莊嚴，為禪宗臨濟宗之一脈。 1778年（清乾隆四十三年）臺灣知府蔣元樞捐俸重修，因此淵緣，本寺在臺南府城寺廟中被譽為「七寺八廟」勝景之一，只可惜蔣元樞重修時並無留下碑文圖記。1840年（清道光二十年）臺灣巡道姚瑩，倡議由府城各寺廟號召境眾，結合鄰近寺廟組織聯境，以作防匪抗盜。1915年（大正四年）日本政府以1260圓強制徵收位於臺南市中正路5巷1號的重慶寺，以為新建臺南廳舍建築之用地。1916年（大正五年）10月，信徒蔡森等人以350元買下今重慶寺之地（中正路5巷2號），重建新寺，變成單殿加拜亭的小寺廟。 二戰期間，美軍轟炸臺南州廳時，本寺不幸被波及毀壞。二戰後，於1956年（民國四十五年），再次重修，由王天恩擔任本寺管理人。1969年（民國五十八年）藏密白教貢噶上師為本寺住持。