周代西羌人就在德令哈一帶游牧。
4世紀(jì)初吐谷渾進(jìn)入海西立國(guó)建都，德令哈為吐谷渾轄地。
唐初吐蕃王朝勢(shì)力伸展到黃河河曲和青海湖畔，滅吐谷渾國(guó)，德令哈地區(qū)歸吐蕃王朝轄。
宋代前后五六百年內(nèi)該地為藏族游牧部落駐地，吐蕃地方政權(quán)存在了比較長(zhǎng)的一段時(shí)期。
13世紀(jì)蒙古族興盛后，勢(shì)力很快進(jìn)入海西地區(qū)。
清初，東蒙古亦不刺、阿爾禿斯等部先后來此駐牧。
清皇太極崇德二年（1637），西蒙古顧始汗率和碩特和準(zhǔn)噶爾巴圖臺(tái)吉的聯(lián)軍進(jìn)入柴達(dá)木盆地。
清雍正初年在平定了羅卜藏丹津叛亂之后，將海西蒙古族分為八旗，德令哈地區(qū)為和碩特北右末旗駐牧地，此狀況一直維持到十九世紀(jì)四十年代。
到1949年解放前，該地為青海蒙古左翼盟長(zhǎng)索南木幫吉力王公的駐牧地（俗稱柯魯溝貝子旗和柯魯溝扎薩克旗）。
1917年，在海西地區(qū)為都蘭縣地。
1939年，民國(guó)政府在柯魯溝建立西樂設(shè)治局，后于1945年改為德令哈墾務(wù)局。
1949年10月都蘭縣解放后，德令哈地區(qū)被劃分為都蘭縣三區(qū)。
1958年，德令哈工作委員會(huì)改為德令哈縣。
1962年11月，撤銷德令哈縣，并入烏蘭縣。
1973年，設(shè)立德令哈城關(guān)區(qū)，歸海西自治州直接領(lǐng)導(dǎo)。
1983年10月，改設(shè)德令哈鎮(zhèn)，屬海西州直轄。
1988年4月，改設(shè)德令哈市（縣級(jí)），沿用至今。