千山區(qū)可上溯的秦代（公元前221年）。
漢代、三國時期、晉代、隋代，其北部（以楊柳河為界，下同）隸遼東郡襄平縣（今遼陽市），南部屬新昌縣。
唐代，唐高宗天皇大圣大弘孝皇帝總章元年（公元668年），隸安東都護(hù)府遼州城（今遼陽市）。
遼代，唐哀帝昭宣光烈孝皇帝天祐三年（公元906年），區(qū)境北部屬東京道遼陽府（今遼陽市），南部屬遼陽府海州（今海城市）。
金代，天德三年（1151年），區(qū)境北部隸東京道遼陽府，南部屬澄州（今海城市）。
元代（1206年），區(qū)境北部屬遼陽路（今遼陽市），南部屬海城巡檢司。
明代，洪武元年（1368年），區(qū)境北部屬遼中衛(wèi)（今遼陽市），南部屬海州衛(wèi)（今海城市）。
清初，千山區(qū)境內(nèi)由遼陽州、海城縣所轄。
民國初，先由遼陽縣所轄，后由海城縣所轄。
民國二十六年（1937年）12月1日，鞍山實行市制，千山區(qū)才劃入鞍山市內(nèi)。
1960年2月15日，郊區(qū)建置。
1983年12月30日，將鞍山市郊區(qū)劃為四城區(qū)之一，取名舊堡區(qū)。
1996年4月19日，改為千山區(qū)。