江山鎮(zhèn)在明代轄鐵石鄉(xiāng)表政里江山社的林邦、前村、石神岐等聚落，郭邦社的銅缽、郭山、林尾等聚落；涂潭社的平坑、上車、下車等聚落。
清代至民國初轄內(nèi)江山社、外江山社。
1929年5月至1931年秋，成立江山區(qū)蘇維埃政府，轄銅砵、山塘、村美、前村、外山、新田、大灣、江山、畬背。
1932年4月至10月，成立萬山區(qū)蘇維埃政府，轄江山區(qū)和萬安區(qū)部分鄉(xiāng)蘇維埃政府。
1933年，民國龍巖縣府下社江山區(qū)，轄4個。
1937年設(shè)4個聯(lián)保。
1941年改設(shè)銅江鄉(xiāng)、東嶺鄉(xiāng)。
1944年合并銅江鄉(xiāng)。
1949年11月龍巖縣人民政府下社江山區(qū)，轄5個村及萬安區(qū)的車背（斜背）村。
1957年設(shè)江山鄉(xiāng)、萬山公社。
1965年又合并稱江山公社。
1984年7月改設(shè)江山鄉(xiāng)。
2011年7月撤鄉(xiāng)設(shè)鎮(zhèn)（9月29日揭牌）。