烏鬼井創建年代不詳，「烏鬼」是指荷蘭統治臺灣時的奴隸，來自東南亞地區的土著，因其膚色黝黑且擅於水性，遂稱作「烏鬼」；古井係荷蘭人命烏鬼開鑿，所以稱為「烏鬼井」。據王必昌《重修臺灣縣誌》記載：「烏鬼井在鎮北坊，水源極盛，雖旱不竭。烏鬼，番國名，紅毛奴也。其人遍體純黑，入水不沉，走海面若平地。先是，紅毛命烏鬼鑿井，砌以菻荼，亦名菻荼井。今改甃紅磚甓，舟人需水，咸取汲焉。」 該井於荷蘭時期以菻荼（即林投）為砌築的材料，因此也稱作「菻荼井」，清乾隆初期改砌紅磚壁，由於水源充沛當時南北商船悉於此取水，以供日用。
日治時期井內沙土積聚，已無井水，唯紅磚造井欄仍在。及至民國44年（1955）古井已被填塞掩埋，在臺南市文獻委員許丙丁的提議下，臺南市政府乃進行挖掘並修復，烏鬼井才得以重現，井水依然清澈沁涼，鄰近居民仍有汲取使用。
烏鬼井在自強街北段，自強街舊稱大銃街；烏鬼井的水質優美，所以大銃街發展出豆腐、豆皮、醬油等豆製食品；周邊有很多豆腐攤，自製自賣豆腐、豆皮，甚至挑到街上或外地叫賣，口味奇佳，遠近馳名；更有多家製造醬油的醬油坊，在時代變遷下，這些醬油坊皆已消失。
在大銃街全盛時期，附近既為醬油產地，又有遠近馳名的豆腐，加上商旅雲集，南北貨充斥，而在元和宮廟埕形成一個小吃攤販集中地，有的開店營業，有的挑擔、推車就地叫賣，直到民國六十年代，元和宮收購廟前土地闢建道路，此一流傳甚久的小吃市集才從府城消失。
烏鬼井原為大銃街共用的民生用井，自來水普遍使用後，居民就不再飲用此井水，現井內仍有水源，雖已廢置不用，卻是荷蘭時期的歷史遺跡，見證府城臺江海岸線的地標，也是大銃街的歷史回憶。民國74年（1985）內政部公告指定烏鬼井為臺閩地區第三級古蹟，今為臺南市市定古蹟，臺南市政府為保存古蹟乃予加蓋，並立碑標示，以彰顯古井的歷史意義。
