民國后期，為鬱林縣平山鄉(xiāng)。
1949年12月，設(shè)小平山鄉(xiāng)，屬鬱林縣。
1950年6月，撤鄉(xiāng)改屬第十區(qū)。
1953年，設(shè)第十五區(qū)，鳳氍林縣。
1955年9月，第十五區(qū)改為小平山區(qū)；次年3月，小平山區(qū)改屬玉林縣。
1957年12月撤區(qū)改鄉(xiāng)，小平山區(qū)析為小平山、賣酒兩鄉(xiāng)。
同屬玉林縣；次年10月，設(shè)五一公社，屬玉林縣。
1959年4月，五一公社改名小平山公社。
1984年10月，小平山公社撤改為小平山鄉(xiāng)，屬玉林市。
1987年7月，小平山鄉(xiāng)析置賣酒鄉(xiāng)，同屬玉林市。
1997年4月，小平山鄉(xiāng)劃歸興業(yè)縣。
2002年5月，小平山鄉(xiāng)改小平山鎮(zhèn)，屬興業(yè)縣。