清代及民國(guó)初年，金山鎮(zhèn)一帶東、東北是茂明安旗地，西、西南歸鳥拉特東公旗管轄。
民國(guó)十五年（1926年），屬固陽(yáng)縣大部分地域稱五區(qū)，東南歸七區(qū)。
民國(guó)二十六年（1937年）11月，屬偽固縣公署，城區(qū)及周邊稱縣城鎮(zhèn)，西南及南稱民義鄉(xiāng)。
民國(guó)三十四年（1945年），屬固陽(yáng)縣，城區(qū)及周邊稱縣城鎮(zhèn)，西南及南稱民裕鄉(xiāng)。
1950年3月，稱第一區(qū)，屬固陽(yáng)縣。
1955年6月，改稱城關(guān)區(qū)。
1956年10月，撤銷城關(guān)區(qū)，擴(kuò)大城關(guān)鎮(zhèn)管轄范圍，城關(guān)區(qū)周邊較遠(yuǎn)地域劃歸相鄰區(qū)。
1958年7月12月，改設(shè)為城關(guān)、公圣西2公社。
1960年3月，改設(shè)為城市、九份子、公益民、東勝水、忽雞淘5公社。
1978年5月，城市公社改為城關(guān)鎮(zhèn)。
1984年7月，九份子、公益民、東勝水、忽雞溝4公社均改鄉(xiāng)。
1993年8月，城關(guān)鎮(zhèn)改稱金山鎮(zhèn)。
2005年4月，忽雞溝、公益民2鄉(xiāng)合并為公忽雞溝鄉(xiāng)，東勝水鄉(xiāng)并入九份子鄉(xiāng)。
2005年12月，九份子、忽雞溝2鄉(xiāng)并人金山鎮(zhèn)。