根據「雲林縣采訪冊」記載：「彌陀寺，在街東，一拜亭、一堂，祀阿彌陀佛。相傳前因溪有溺兒，每於白晝現形，曳人落水，街民恐懼，視為畏途。嘉慶三年，王福基由此經過，為鬼所困，幾瀕於危；朗誦阿彌陀佛數聲，鬼遂隱；乃告街眾立石焉。後五年，居民於黃昏時，每見石現火光，遂鳩資建寺。」可知北港彌陀寺的由來與水鬼作祟有關，不過為何又會有小西天之稱呢？同治10年（1871），笨港殷商「洽興號」游清雲曾敬獻了一塊「小西天」匾額予彌陀寺，在佛教寺廟中，供奉佛祖的廟宇一般稱大西天，供奉如來佛的廟宇一般稱小西天。因此彌陀寺自此有了小西天的別名。

參加過一年一度北港迎媽祖的朋友對彌陀寺應該不會感到陌生，繞境隊伍裡負責壓陣的兩頂神轎，一頂是北港碧水寺的觀音佛祖，而另外一頂則是小西天的阿彌陀佛。