清光緒初年分屬11都1圖，12都1圖。
民國(guó)時(shí)屬烏巖區(qū)嶺上鄉(xiāng)。
1948年屬烏巖區(qū)聯(lián)嶺鄉(xiāng)。
1951年土改時(shí)，分別在半山、北山兩地建立了半山鄉(xiāng)和北山鄉(xiāng)，均屬寧溪區(qū)管轄，1956年半山、北山兩鄉(xiāng)合并，以地處糧豐林茂，物產(chǎn)豐富的山區(qū)而命名為富山鄉(xiāng)。
1958年建富山管理區(qū)，屬寧溪公社，1961年公社體制調(diào)整，稱富山人民公社，1983年撤銷公社建制，復(fù)稱富山鄉(xiāng)，沿用至今。
1985年4月臺(tái)州行署批準(zhǔn)為第二次國(guó)內(nèi)革命戰(zhàn)爭(zhēng)時(shí)期根據(jù)地。