西漢屬郁秩縣；東漢屬膠東侯國；三國魏屬膠東縣；北魏皇興四年（470）屬長廣縣；隋仁壽元年（601）屬膠水縣；明洪武二十二年（1389）屬平度州；清屬長樂鄉(xiāng)；1912年后屬平度縣長樂鄉(xiāng)（后屬第四區(qū)）；1940年9月屬平度縣抗日民主政府第四分區(qū)；1941年9月屬平北縣天柱區(qū)；1950年5月屬平度縣天柱區(qū)（后屬第六區(qū)）；1958年2月撤區(qū)并鄉(xiāng)，屬大澤山、天柱鄉(xiāng)；1958年9月屬大澤山人民公社；1984年由社改鄉(xiāng)，1985年11月由鄉(xiāng)改鎮(zhèn)；1994年12月將青楊鄉(xiāng)北部10個村劃入大澤山鎮(zhèn)；2012年12月12日，撤銷大澤山鎮(zhèn)、長樂鎮(zhèn)，以原大澤山鎮(zhèn)、長樂鎮(zhèn)行政區(qū)域設(shè)立新的大澤山鎮(zhèn)，鎮(zhèn)政府駐原大澤山鎮(zhèn)政府駐地。