民國37年5 月24日,台北市農會創立,前身為臺北州農業會(包含臺北州畜產會、臺北州香花同業組合、臺北州青果同業組合、臺北州米穀納入組合、臺北州柑橘同業組合、臺北廳農會)。創會時轄下有松山、中山、雙園、大安、大同、古亭六個區農會。
民國38年11月本會改組,依政府規定改選後的理監事會稱為省轄市第一屆。
民國41年政府頒布「改進臺灣省各級農會暫行辦法」,42年10月起進入實施改進階段。43年1月本會依法改選理監事( 即省轄市第二屆)。此後,農會開始實行理監事會與總幹事權責劃分制。
民國56年7 月臺北市改制為直轄市。57年7月1日,鄰近六鄉鎮歸併市轄,本會轄下增加內湖、南港、景美、木柵等四個區農會,台北市農會正式升格為省級農會,理監事會改為直轄市第一屆。
民國63年2 月起,陽明山管理局農會裁併入本會,本會轄下增加北投、士林兩個區農會。
民國64年農會改選,原有古亭區、大同區兩區農會,依農會合併方案法令規定,分別併入雙園區、中山區農會。
民國79年,臺北市行政區調整,雙園區農會更名為萬華區農會,信義區農民分屬大安區或松山區農會為會員。
民國82年3 月,萬華區農會合併入松山區農會,自此本會轄下計有北投、士林、內湖、南港、中山、松山、大安、景美、木柵等九個區農會。
民國102年4月18日中華民國農會成立,為本會之上級農會,自此確立農會三級制。
民國106年3月第13屆次改選後,本市各區農會轄下計有農事小組68小組、會員7,738人、贊助會員36,590人。