日治昭和2年（民國16年，1927），由劉洋、劉姜兄弟等14人籌辦，以鄭品聰為首的中華會館成立於今中正路，主要作為凝聚華僑團結力量、聯絡感情、增進福利、辦理公益事業及慈善救濟，並設有同鄉會，協助解決無力謀生鄉親食宿問題。

鄭品聰是福建龍岩人，日本時代從福建來臺發展。鄭品聰主要待在臺東，通中醫，大正11年（1922）在臺東開德和堂中藥行，參與籌建供華僑聚會聯誼感情的中華會館。

昭和12年（1937）爆發中日戰爭，日警嚴密監控在臺華僑，並發生「中華會館事件」。昭和13年（1938），臺灣總督府利用親日華僑組織「新民公會」，取代中華會館。戰後，新民公會解散，臺東中華會館一度改組為臺灣建設協進社臺東分社，協助國民政府接收工作並促進地方建設。但業務不振，兩、三年後名存實亡。建築因缺乏經費，年久失修，經當時臺東縣縣長蔣聖愛撥款修繕，民國75年（1986）臺灣光復節竣工，是臺灣僅存的中華會館。在民國91年（2002）時，臺東縣政府公告為中華會館為歷史建築。

民國39年（1950）至民國58年（1969），寶桑吟社以臺東市中正路之「中華會館」為基地，由鄭品聰擔任社長重整社務，進行集會、聯吟，並聘請洪傳、王養源、邱耀清等詩人講學。民國47 年（1958） 端午節（亦為詩人節），曾主辦「戊戌年全國詩人聯吟大會」，詩壇大老于右任特地前來主持，出席詩人達到3 百多人，大大提振了後山詩風於一時。寶桑吟社則創立於昭和7年（1932），成員包括賴榮俊、洪傳、劉秀標等，是臺東最早的文學團體。透過定期聚會，並以地方風物、詩友交誼為課題，「擊鉢」吟詠古典漢詩，推廣賦詩。漢族移民進入臺東拓墾，帶來了原鄉文學的形式，並透過交流延續漢族的傳統詩學。