「公有第一小康市場」就位在五叉路口的三角窗處，同時匯聚了文賢路、西和路、臨安路，其位置相當精華，更何況目前市場的外觀經過美化，嶄新招牌讓來往人車可一眼就看見，能見度大大提升。
第一小康市場的入口處，其牆面上書有「民國六十三年元月二十四日 臺南市第一小康市場 謝東閔題」示明了該市場成立的時間點。在民國62年(1973)，於張麗堂市長任內，起心動念為了協助弱勢貧戶自力更生，因此著手規劃興建市場，開放讓弱勢貧戶申請攤位做生意，賺了錢就能養家糊口，並改善生活品質，以呼應省府推行小康計畫的重點，同時強化了社會福利政策的一環。
既然興建市場設為濟弱的目標，市政府即擇定了現址地點，撥用290萬元福利基金，興建臺南市第一小康市場，經過一年後，終於竣工。開幕這天，張麗堂市長與國民黨台南市黨部、政府和民意機構的代表們前來市場，親自向100多位攤販道賀，場面熱絡。
起初，第一小康市場的所在地是一處垃圾場，是經過市政府大力整頓後，才搖身一變為市場。不過第一小康市場初創時期，因受附近協和街無照攤販競爭之影響，經營情況不佳；為了解決場外攤販經營問題，市政府積極引導協和街的攤販納入第一小康市場。當時甚至出現憲兵站哨，動用了公權力予以驅離，逐漸的消弭了攤販亂象，將流動攤販加入市場陣容，讓第一小康市場的生意場更為穩固。
目前市場緊鄰的西和路，昔日是一條大水溝，兩旁都是小路，其渠道一度可通安平運河至現今的西門路，甚至小船還能行駛到此，後來水溝蓋起來了鋪路了，市場的出入更加利便了！第一小康市場原先是一棟密閉的建築物，建築四周皆牆，後來改建成開放式無牆面的平面建築，並增加出入口，且曾多建2樓，必須從市場外面的樓梯拾階而上。民國105年(2016)發生0206大地震，第一小康市場必須進行災害復建工程，加強結構，增添安全感。時至今日，第一小康市場的攤商幾乎滿位，屬於早市。