本機關前身為「臺灣省政府農林廳」，位於南投縣南投市光華路8號，為有巢建築師事務所虞曰鎮建築師所設計。 依據民國88年(1999)[臺灣省政府功能業務與組織調整暫時條例]規定，臺灣省政府(以下簡稱省政府)為行政院派出機關，省政府為非地方自治團體，原臺灣省政府農林廳及糧食處裁併為農委會中部辦公室及第二辦公室，原所屬機關改隸為農委會附屬機關，使中央與地方農政事權統一，並提昇行政效率。 民國93年(2004)為配合臺灣省政府功能業務與組織調整第一階段完成後所進行各部會地區辦公室及改隸機關組織作業，將農委會原農糧處與中部辦公室及第二辦公室等單位之業務整併成立農糧署。