民國三年（1914年），全縣設(shè)8區(qū)、22鎮(zhèn)、84鄉(xiāng)，設(shè)思源鎮(zhèn)（即巖坑）鎮(zhèn)、開源鄉(xiāng)（即小開州），屬第七區(qū)。
民國二十七年（1938年），設(shè)玉山鄉(xiāng)，轄15保、129甲。
1950年，設(shè)玉山鄉(xiāng)，屬第三區(qū)，玉山鄉(xiāng)轄巖坑、龍蟠、開源等村。
1953年，設(shè)玉山鄉(xiāng)（巖坑、新莊、龍蟠村合建）、開源等鄉(xiāng)，同屬第六區(qū)。
1958年，設(shè)巖坑、小開州等管理區(qū)，同屬玉山公社。
1963年，設(shè)巖坑、小開州、龍蟠等公社，屬玉山區(qū)。
1984年，建立巖坑鄉(xiāng)、小開州鄉(xiāng)、龍蟠鄉(xiāng)，屬玉山區(qū)。
1990年，原巖坑鄉(xiāng)、小開州鄉(xiāng)、龍蟠鄉(xiāng)合并為玉山鎮(zhèn)。
2013年6月24日，同意撤銷甕安縣魚河鄉(xiāng)建制，將原魚河鄉(xiāng)深溪村劃入玉山鎮(zhèn)，高枧村劃入中坪鎮(zhèn)，新場村劃入銀盞鎮(zhèn)。