西漢前期為皮山國，西域三十六國之一，王治皮山城。
神爵三年（前59）隸屬西域都護府。
東漢后屬于闐。
《魏書》作蒲山。
唐設皮山城，隸安西都護府。
宋、遼、金時期，皮山等地屬喀喇汗王朝、西遼統(tǒng)治。
元、明、清初時期，皮山地域先后屬察合臺汗國、葉爾羌汗國。
清光緒十年（1884）屬葉城縣，隸屬喀什噶爾道莎車直隸州。
光緒二十九年（1903）由葉城縣析固瑪、桑株等三十八莊置皮山縣，隸莎車府。
1920年隸屬和闐道。
1929年屬和闐行政區(qū)轄治。
1936年，皮山縣設置7個行政區(qū)。
1941年劃分為8大區(qū)。
1950年3月成立皮山縣人民政府。
1958年全縣劃分7個公社，1個農(nóng)場，1個牧場。
1984年，實行撤社建鄉(xiāng)。