日本人入來到花蓮初期，鹽水港製糖株式會社社長荒井泰次，發宏願在花蓮興建寺院，乃於1912年，禮聘臺北臨濟護國禪寺住持，日僧梅山玄秀禪師為開山師，駐花蓮籌建佛寺。經過多年佈教及努力，以及荒井泰次的協助，大正8年（1919）3月，在花崗山落成一座佛寺，稱為大樹山東台寺。東台寺旁另有一佛寺淨光寺，此寺係日僧中島俊康於大正3年（1914）開山，大正5年（1916）落成，稱淨土宗大觀山淨光寺。昭和7年（1932），於今日進豐街興建有一齋堂，稱玉蓮寺。臺灣光復時，玉蓮寺優婆張六妹接管花崗山的東台寺及淨光寺，而在彼時，原來玉蓮寺部分廟地也被占用，於是將玉蓮寺所有的法器、經書都搬到花崗山的佛寺。民國36年（1947）正式合併為一寺，定名為東淨寺。