漢武帝建元三年（前138）在今托克遜縣南庫米什鎮(zhèn)境內設山國，稱“破城子”；漢武帝元封三年（前108），改稱車師；唐太宗貞觀十四年（640）平高昌后，設西州管5縣，其中天山縣縣治即今托克遜縣境；清光緒十二年（1886）設置吐魯番直隸廳，今托克遜為西鄉(xiāng)；1935年6月1日，托克遜正式升格為縣（屬三等縣），隸屬焉耆行政區(qū)；1938年，托克遜縣改隸迪化專員公署管轄；1948年，設1鎮(zhèn)3鄉(xiāng)20保111甲；1950年3月，成立托克遜縣人民政府。