1949年8月前屬鳴盛鄉(xiāng)、清明鄉(xiāng)。
1950年8月后屬湘東區(qū)青山、葡萄、溫盤、樟樹4鄉(xiāng)。
1956年樟樹鄉(xiāng)并入湘東區(qū)瀾潭鄉(xiāng),其它3鄉(xiāng)合并為青山鄉(xiāng),屬萍鄉(xiāng)鎮(zhèn)。
1957年從萍鄉(xiāng)鎮(zhèn)分設(shè)青山鄉(xiāng)。
1958年青山鄉(xiāng)復(fù)屬萍鄉(xiāng)鎮(zhèn),葡萄、溫盤2鄉(xiāng)改屬湘東公社。
1961年2月成立青山鎮(zhèn),轄青山、朝陽(yáng)、光輝、葡萄、烏石、大城大隊(duì),屬城關(guān)區(qū)。
1962年分設(shè)為大城公社和青山鎮(zhèn)。
葡萄、烏石、大城和湘東公社的溫盤、高枧、甘泉、柳源、樟里、五里亭大隊(duì)屬大城公社;青山、朝陽(yáng)、光輝大隊(duì)屬青山鎮(zhèn)。
1964年青山鎮(zhèn)并入萍鄉(xiāng)鎮(zhèn)。
1965年又從萍鄉(xiāng)鎮(zhèn)分出;大城公社合并到湘東公社。
1969年將湘東公社所轄的溫盤、高枧、下柳源、烏石、大城、葡萄大隊(duì)和福田公社的上柳源大隊(duì)劃歸青山鎮(zhèn)。
1971年3月成立城關(guān)區(qū),屬城關(guān)區(qū)。
1972年源頭大隊(duì)從上栗區(qū)福田公社劃入青山鎮(zhèn)溫盤村,1973年從溫盤村劃出,名源頭大隊(duì)。
1993年5月改稱安源區(qū)青山鎮(zhèn)。
1997年彭家源村更名光輝村。
2003年9月水口村并入青山村。
2005年11月新生村、絲草塘居委會(huì)并入新建居委會(huì),建設(shè)居委會(huì)并入七一居委會(huì),五一、張家山居委會(huì)并入八一居委會(huì),油榨沖居委會(huì)并入水口居委會(huì),設(shè)立香爐山居委會(huì)。