隋唐時,先后屬他樓縣和蕭關縣。
北宋,設蕭關(遺址在今高崖鄉(xiāng)草場村南),下轄通關堡(遺址在今高崖鄉(xiāng)高崖村)、臨川堡(遺址在今高崖鄉(xiāng)紅古村北)、西山堡(在今同心縣興隆鄉(xiāng)西山洼村),隸屬懷德軍。
金時,升蕭關為蕭鎮(zhèn),屬原州(治臨涇,在今甘肅鎮(zhèn)原南)。
明時,設紅古城(古蕭關舊址),轄墩臺14座,屬固原州。
清時,設紅古堡(遺址在今高崖鄉(xiāng)紅古村西),隸屬海城縣。
民國二十四年(1935年),設清河鄉(xiāng)(治紅古堡);同年,裁鄉(xiāng)設第五區(qū)公所(治紅古堡)。
民國二十五年(1936年),紅軍西征軍解放鄉(xiāng)境,曾設立高崖鄉(xiāng),隸屬陜甘寧邊區(qū)豫?h回民自治政府。
民國二十六年(1937年),原第五區(qū)改為第四區(qū)。
民國二十九年(1940年),設立高崖鎮(zhèn)。
民國三十八年(1949年)8月,設立高崖區(qū)公署。
1952年10月,高崖區(qū)改為第四區(qū)。
1953年4月,第四區(qū)改為第五區(qū)。
1958年10月,撤銷區(qū)鄉(xiāng),設立高崖公社。
1984年1月,高崖公社改為高崖鄉(xiāng)。