殷商時屬畿內(nèi)牧野地。
周滅商后，先屬鄘，后屬衛(wèi)。
春秋時改屬晉。
戰(zhàn)國屬魏，始有汲邑之稱。
秦為河內(nèi)郡地。
西漢高帝二年(前205)始置汲縣，屬河內(nèi)郡。
三國時屬曹魏朝歌郡。
西晉泰始二年（266）屬汲郡。
北魏于今市區(qū)置伍城縣。
東魏興和年間于此置義州。
北齊改伍城郡，廢汲縣入伍城縣。
北周宣政元年（578）廢汲郡。
隋開皇六年(586)改伍城縣為汲縣，屬衛(wèi)州。
大業(yè)三年（607）改屬汲郡。
唐武德元年（618）再置義州，汲縣屬之。
四年廢義州，屬衛(wèi)州。
貞觀初為衛(wèi)州州治。
金屬衛(wèi)州河平軍。
元中統(tǒng)元年（1260）屬衛(wèi)輝路總管府，路治汲縣，素有“南通十省，北拱神京”之稱。
明、清屬衛(wèi)輝府，府治汲縣。
1913年屬河南省豫北道，道治汲縣。
1927年廢道，直屬河南省。
1933年屬第十三行政督察區(qū)。
1948年劃城區(qū)及城郊部分村莊設(shè)立衛(wèi)輝市，與汲縣同屬太行五專署。
1949年撤銷衛(wèi)輝市，復(fù)歸汲縣，屬平原省新鄉(xiāng)專區(qū)。
1952年改屬河南省新鄉(xiāng)專區(qū)。
1983年屬新鄉(xiāng)市。
1988年撤銷汲縣，設(shè)立衛(wèi)輝市（縣級）。