1949年名為小蒜村，屬汾陽專屬石樓縣三區(qū)管轄；1951年3月27日屬臨汾專屬石樓縣三區(qū)管轄；1953年行政村改鄉(xiāng)，小蒜村改為小蒜鄉(xiāng)，屬臨汾專屬石樓縣三區(qū)管轄；1958年9月撤鄉(xiāng)建公社，小蒜鄉(xiāng)改為小蒜人民公社；1958年10月石樓縣并入?yún)瘟嚎h，石樓縣改為石樓鎮(zhèn)，小蒜人民公社改為超英人民公社；1959年10月1日石樓恢復縣制，超英人民公社改為小蒜人民公社；1984年4月以公社建鄉(xiāng)鎮(zhèn)，小蒜公社改為小蒜鎮(zhèn)；2001年，全縣撤鄉(xiāng)并鎮(zhèn)中，韓家山鄉(xiāng)并入小蒜鎮(zhèn)，鎮(zhèn)政府駐小蒜村，至今不變。