1961年1月11日，延平鄉武陵天主堂落成，由費聲遠主教(Bishop André-Jean Vérineux, MEP)祝聖啟用，命名為聖瑪爾定堂。1960年代，錫質平神父(Rev. Jakob Hilber, SMB)、龔岱恩神父(Rev. Josef Guntern, SMB)、池作基神父(Rev. Meinrad Tschirky, SMB)等白冷會外籍傳教士，為協助信友消除貧窮、改善生活水平，在臺東推動儲蓄互助社運動，而於延平武陵天主堂成立的儲蓄互助社，曾險些造成流失信友的危機。

白冷會錫質平等神父配合于斌樞機主教創辦之「中國互助運動協會」所推展的「儲蓄互助社」運動，開始在臺東各堂區提倡成立儲蓄互助社，因此也在武陵天主堂成立儲蓄互助社。但因當時會計疏失，讓互助社存款虧空，因而造成社員對白冷會極不諒解，甚至連主日也不上教堂。為此，當時兼理延平堂區的賈斯德神父(Rev. Karl Staehli, SMB)嘗試播放電影吸引信友回歸，但也無法如願。而後，余桂妹每周日早上皆從池上搭車前去延平堂周圍拜訪信友，才慢慢將信友帶回教會之中，使武陵天主堂得以延續。

余桂妹修女表示，當時她每周日到武陵天主堂，挨家挨戶地將信友帶回天主堂，並在天主堂帶領他們祈禱。數月以後，人數逐步回穩，修女購置一聖像，並向教友說：「我把你們交付給祂，之後我不在的時候，你們也能向天主禱告。」此後，更多教友回歸。