春秋屬晉，戰(zhàn)國時屬趙的一邑稱西陽，西漢始置中陽縣。
東漢末年并入離石縣，屬西河郡。
三國屬魏，十六國時期，初屬后趙永石郡，后屬西河郡。
前秦、前燕沿襲未變。
北朝時期屬北魏離石鎮(zhèn)。
北周大象元年（579），置寧鄉(xiāng)、平夷二縣，均屬離石郡。
隋大業(yè)三年（607）并寧鄉(xiāng)、平夷入離石為石州。
唐代一直屬石州。
五代十國時期，初屬后梁、后唐、后晉，后屬后漢、北漢。
宋屬河?xùn)|路太原府石州。
金泰和二年（1212）重設(shè)寧鄉(xiāng)縣，亦屬石州。
元代初屬山西宣慰司太原路石州，后改屬冀寧路石州。
明代屬山西承宣布政司太原府石州，萬歷二十三年（1595）改屬汾州府永寧州，至清朝一直未變。
1914年將寧鄉(xiāng)縣復(fù)名為中陽縣，屬山西省冀寧道至1946年中陽縣解放。
1946年12月12日，中陽縣解放，屬晉綏邊區(qū)離石專區(qū)管轄。
1949年初，晉綏邊區(qū)撤銷，中陽縣改屬陜甘寧晉西北離石專員公署；9月山西省人民政府成立，中陽縣屬汾陽專區(qū)。
1951年3月27日，汾陽專區(qū)撤銷，中陽縣改屬興縣專區(qū)。
1952年7月，興縣專區(qū)撤銷，中陽縣屬榆次專區(qū)管轄。
1958年10月，中陽縣并入離石縣，為中陽鎮(zhèn)。
1959年10月，恢復(fù)中陽縣建置，屬晉中專區(qū)管轄。
全縣轄22個公社。
1971年5月，組建呂梁地區(qū)，從中陽縣劃出12個公社歸柳林縣管轄，時轄10個人民公社。
1972年6月從城關(guān)公社劃出13個生產(chǎn)大隊增設(shè)蘇村公社，時下中陽縣轄11個公社。
1984年撤銷人民公社建制，設(shè)7個鄉(xiāng)，轄4鎮(zhèn)7鄉(xiāng)共計11個鄉(xiāng)鎮(zhèn)。
2002年撤鄉(xiāng)并鎮(zhèn)，轄5個鎮(zhèn)2個鄉(xiāng)共計7個鄉(xiāng)鎮(zhèn)，設(shè)有13個居民委員會、87個村民委員會。
2004年4月，屬呂梁市，轄區(qū)鄉(xiāng)級政區(qū)至今未變，沿用至今。