臺灣中部林姓為望族，早在清代中葉已經出現宗祠，霧峰林家在清末家族聲勢如日中天，林文察、林朝棟及林獻堂皆具極大的社會影響力，終於在1919年（大正8年）林氏族人倡議在臺中市區大興土木，建造一座宏偉的宗祠。

        當時聘請陳應彬主持設計建造，1921年（大正10年）先完成正殿，1924年（大正13年）再完成前殿，1930年（昭和5年）完成左右護室，成為兩殿兩廊兩護室之格局，是臺灣現存最巨大且精美的臺中林氏宗祠。陳應彬最拿手的「假四垂」屋頂在臺中林氏宗祠又出現了，不過可能當時受到剛完工的艋舺龍山寺影響，陳應彬將屋頂加高，因而「排樓斗栱」增加許多層，成為本建築一大特色。

        另外，當時也大量利用阿里山通車之後所採伐的優質檜木。林氏宗祠用料粗碩，特別是「大通樑」及「瓜筒」，用料足且加工精。木作的彩畫由出自鹿港繪師郭新林之手，兩廊水車垛也佈置許多精巧的交趾陶，藝術水準極高。另外建築物也可見到1920年代洗石子及磨石子的工藝，特別是兩廊開闢圓洞門可使人直通左右護室，空間更趨通透，這可能是考量祭祖典禮避免人員擁擠之設計。