北宋時，設(shè)九羊寨（遺址在李俊鄉(xiāng)瓦房村），隸屬懷德軍。
金時，先后屬鎮(zhèn)戎州、三川縣。
元時，先后屬鎮(zhèn)原州、開城縣。
明時，設(shè)李俊堡，屬固原衛(wèi)。
民國二十九年（1940年），設(shè)李俊鄉(xiāng)，屬固原縣。
民國三十三年（1944年），李俊鄉(xiāng)劃歸海原縣管轄。
民國三十八年（1949年）8月，設(shè)立李俊區(qū)，轄李俊、瓦房、九彩、楊明、木頭、蔣（姜）莊、紅羊、石塘、關(guān)莊9個鄉(xiāng)。
1952年10月，李俊區(qū)改為第六區(qū)，轄李俊、瓦房、九彩、古城、楊明、陳梁、張泉、馬昌8個鄉(xiāng)。
1953年4月，改轄李俊、瓦房、九彩、木頭、楊明、新莊、謝姜7個鄉(xiāng)。
1956年8月，改轄李俊、九彩、楊明3個鄉(xiāng)。
1958年1月，改轄李俊、九彩、楊明、紅羊、石塘、關(guān)莊6個鄉(xiāng)；同年10月，撤銷區(qū)、鄉(xiāng)建制，設(shè)李俊公社。
1959年5月，九彩公社整建制并人。
1962年12月，復(fù)設(shè)李俊區(qū)，轄李俊、楊明、紅羊、關(guān)莊4個公社。
1969年6月，撤銷李俊區(qū)，李俊鄉(xiāng)改為直屬公社。
1981年5月，原九彩公社析出重設(shè)。
1984年1月，李俊公社改為李俊鄉(xiāng)。