唐、虞、夏、商境屬冀州地；春秋屬晉；戰(zhàn)國(guó)屬魏；秦屬河?xùn)|郡皮氏縣；西漢屬司隸部河?xùn)|郡，汾南為左邑縣（今聞喜）。
汾北部分屬長(zhǎng)修縣（今新絳）。
汾南為稷山亭，縣西北境為冀亭；東漢廢左邑、長(zhǎng)修二縣，汾北劃入皮氏縣（今河津），汾南部分歸聞喜縣。
今縣城處為冀亭，汾南為稷山亭；三國(guó)屬魏司州，汾北為平陽(yáng)郡皮氏縣，汾南為河?xùn)|郡聞喜縣；西晉屬司州，汾北仍為平陽(yáng)郡皮氏縣，汾南仍屬河?xùn)|郡聞喜縣；前趙、前秦、后秦均屬平陽(yáng)郡；北魏屬東雍州正平郡。
北魏太和十一年（487），析聞喜、龍門兩縣部分區(qū)域?yàn)楦邲隹h（縣治在今縣城東南15公里處），并置高涼郡，郡治在高涼，轄高涼、龍門（今河津）兩縣。
此為今稷山獨(dú)立設(shè)縣始；東魏、西魏、北齊、北周時(shí)，汾北屬東魏、北齊，仍稱高涼縣；汾南屬西魏、北周，西魏筑城于玉壁（今縣城南6公里處白家莊村北），北周將玉壁置為勛州，勛州撤銷后，移絳州治于此；隋開(kāi)皇十八年（598），絳州治由玉壁移至正平（今新絳），變?yōu)榻{郡，并改高涼縣為稷山縣，且筑城于汾河之北（今縣城），邑屬絳郡；唐時(shí)，稷山屬河?xùn)|道絳州；五代初屬后梁河中府；后唐同光三年（925）屬絳州；北宋屬河?xùn)|路絳州；元初屬晉寧路絳州。
元大德九年（1305）改屬平陽(yáng)路，后歸晉寧路絳州；明屬平陽(yáng)府絳州；清仍屬絳州；1914年，邑屬河?xùn)|道；1932年屬山西省第七行政專員公署，1938年改屬第八行政專員公署，1942年復(fù)歸第七行政專員公署；1947年4月稷山解放，8月，縣境汾北地區(qū)仍稱稷山縣，屬晉綏十專署轄。
汾南則與河津縣汾河以南地區(qū)組成稷河縣，縣治在今稷山翟店鎮(zhèn)，屬太岳三專署轄；1948年8月，稷河縣撤銷，稷山縣恢復(fù)原建制，仍屬晉綏第十專署轄，次年改屬晉南行政督察專員公署；1951年3月，歸運(yùn)城專員公署轄；1954年，運(yùn)城、臨汾兩地區(qū)合并為晉南專署，屬晉南專署；1970年，晉南專署分為臨汾、運(yùn)城兩專署（后改為行政公署），縣屬運(yùn)城行政公署；2000年4月，運(yùn)城地區(qū)撤地建市，稷山屬運(yùn)城市；區(qū)劃不變至今。