夏屬雍州，商為龍方地，西周被獫狁占據(jù)，春秋戰(zhàn)國時為白狄地。
秦屬上郡北境。
漢代屬西河郡，置白土縣，后屬上郡，三國兩晉為羌胡地。
東晉十六國時期，先后為后趙、后秦、大夏屬地。
北朝時先為北魏地，置石城縣，后改為銀城，屬上郡；后為西魏、北周地，置歸真郡。
隋置銀城縣，屬雕陰郡。
唐開元十二年（724）置麟州，天寶元年（742）改為新秦郡，乾元元年（758）復(fù)為麟州，領(lǐng)新秦、連谷、銀城三縣。
五代州制不變，先后屬晉、唐、北漢、周。
宋代仍為麟州，屬河?xùn)|路。
乾德五年（967）升麟州為建寧軍，后改為鎮(zhèn)西軍。
政和四年（1114）廢銀城、連谷兩縣并入新秦縣。
南宋為“神木寨”，曾為金、西夏轄地，建制未變。
元初立云州于神木寨，至元六年（1269）廢州為神木縣。
明洪武六年（1373），改縣為神木堡，屬榆林衛(wèi)。
洪武十四年（1381）復(fù)置神木縣，屬葭州。
隆慶間改神木道，轄制葭州及神木、府谷、吳堡三縣。
清初，仍沿舊制。
雍正九年（1731）撤銷神木道，縣屬佳州。
乾隆元年（1736）屬榆林府。
1913年屬榆林道，1928年屬省。
1934年3月，陜北特委在境內(nèi)創(chuàng)建革命根據(jù)地。
同年9月成立神木縣革命委員會，轄馬鎮(zhèn)，沙峁、賀家川、太和寨、楊家溝、黃草焉6個區(qū)。
1936年1月，中共神府特區(qū)成立，轄府谷、佳蘆、神木、佳北、榆林5個縣級蘇維埃政府。
1948年，神木全縣解放，神木縣人民政府成立；2017年，神木撤縣設(shè)市，縣級神木市由陜西省直轄，榆林市代管。