清光緒二十八年（1902年）5月，在黑山鎮(zhèn)所在地設鎮(zhèn)安縣。
民國三年（1914年）1月，鎮(zhèn)安縣改名黑山縣。
民國十年（1921年），全縣劃分為6區(qū)，黑山鎮(zhèn)為附城區(qū)。
民國二十年（1931年）9月18日，東北淪陷后，日偽政權將全縣劃分為44個村，黑山鎮(zhèn)為其中一個村。
民國二十六年（1937年），黑山鎮(zhèn)改黑山街公所。
民國二十五年（1946年），國民黨占據黑山期間，全縣設3鎮(zhèn)，黑山鎮(zhèn)為其中之一。
民國三十七年（1948年）2月，黑山全境解放，成立黑山鎮(zhèn)。
1950年，黑山鎮(zhèn)改為第十區(qū)。
1955年4月，復置黑山鎮(zhèn)。
1958年10月，與勝利、營房、十里3鄉(xiāng)合并成立東風公社。
1961年，調整為黑山公社。
1963年，改名黑山鎮(zhèn)公社。
1968年3月，成立黑山鎮(zhèn)革命委員會。
1980年9月，改黑山鎮(zhèn)人民公社管理委員會。
1983年9月，改黑山鎮(zhèn)。
1992年5月，大虎山鎮(zhèn)的黃家壕村和段家鄉(xiāng)的古家子村并入黑山鎮(zhèn)。
2013年7月12日，撤銷黑山鎮(zhèn)改設黑山街道。