臺灣開始有大型市場建築始於日治時期，初期是為了衛生保健，後來也達到平穩物價與經濟效益。 初期市場屬於半官方性質，1905年（明治三十八年）才正式規定消費市場只能由官方設立，同年9月4日新設西市場前身「臺南市場」。1901年（明治三十四年），隔兩年為實行市區改正，也因為交通運輸系統的逐步建立，物產運輸多轉由鐵道與輕便鐵道出入，空間重心逐漸移至西市場附近。 在1935年（昭和十年）的臺南市街圖中，可見西市場旁出現「臺灣漁株式會社」，應為1912年（大正元年）就在西市場內辦公的「漁業會社」，顯示此時魚類的交易市場已經與西市場結合。至1936年（昭和十一年）的《臺南市商工人名》見「臺南市青果荷受組合」位於西市場內，至1936年（昭和十一年），除了販賣一般鳥獸肉、蔬果及日用品外，可能有魚類及蔬果類的大量交易的事務所或市場位於西市場內，所以此時期應為臺南市娛樂及民生必需品之中心。 由《總督府公文類纂》得知1935年（昭和十年）原來位在西市場西南之魚賣場已遷移至運河臺南船溜（碼頭）旁，則「台南州青果同業組合香蕉倉庫」之前身應為1930年（昭和五年）即已興建的魚賣場，其外觀形貌似曾於1935年（昭和十年）前後配合魚賣場的遷出有所調整，然當時的用途尚難澄清，之後方輾轉作為香蕉倉庫使用，並形成眾人對建築的主要印象。