秦漢以前，高廟屬“羌戎地”。
漢武帝元鼎六年（前111年），漢軍進(jìn)據(jù)湟水流域，高廟歸入漢朝版圖。
西漢太初年間（前104年—101年），高廟始建村寨。
北宋哲宗元符年間（1098—1100年），高廟建通湟寨。
明代時(shí)期，高廟漢族從南京和內(nèi)地先后因平戎西征或因商賈遷來(lái)高廟定居，繁衍生息。
清雍正三年（1725年），改右千戶(hù)所為碾伯縣，高廟屬碾伯縣管轄。
民國(guó)十九年（1930年），高廟設(shè)鎮(zhèn)。
民國(guó)三十八年（1949年）9月5日，樂(lè)都縣解放，設(shè)高廟鎮(zhèn)，廢除保甲制，設(shè)立村民委員會(huì)。
1958年，高廟鎮(zhèn)為金剛公社。
1984年，復(fù)名高廟鎮(zhèn)。