胡鐵花於清光緒21年（1895）農曆5月28日（1895年6月20日） 在臺東鎮海後軍中營的日記中寫下「書遺囑授秬兒」，交給次子胡嗣秬（胡紹之），其日記寫到這天為止。圖為其遺書最後三頁之內容。5天後（6月25日）起程離開臺東，經安平返回廈門，農曆7月3日病逝於「三仙館」。胡適在《四十自述》中曾這樣描述他父親：「我父親在臺東辦後山的防務，電報已不通，餉源已斷絕，那時他已得腳氣病，左腳已不能行動。他守到閏5月3日，始離開後山。到安平時，劉永福苦苦留他幫忙，不肯放行。到6月25日，他雙腳都不能動了。7月3日他死在廈門，成為東亞第一個民主國的第一個犧牲者」。