元大德《昌國州圖志》卷二載為“三姑（岙）”，卷四載為“三姑山”。
明嘉靖《籌海圖編》卷一也載為“三姑山”。
據(jù)傳，三姑山之名源于島北的三姑礁（前姑礁、中姑礁、圣姑礁的合稱）。
清代以后，多稱大羊山、老羊山，由小羊山派生得名。
清康熙《定海縣志》卷五：“大羊山：江南、浙江分界，東至左營水汛小衢山，約計(jì)水程一百里；南至寨子山，約計(jì)水程一百里；西至乍浦官山，約計(jì)水程一百里；北至江省小羊山，約計(jì)水程十里；西北至大小七山，約計(jì)水程二百里�！庇州d：“大羊山，閩人呼為猴山。”以當(dāng)時(shí)島上多猴子得名。
1934年設(shè)大羊鄉(xiāng)，屬定�？h。
1947年改稱大洋鄉(xiāng)。
1950年起屬嵊泗特別區(qū)（縣）。
1953年分設(shè)為大洋鄉(xiāng)、洋東鄉(xiāng)、洋西鄉(xiāng)。
1958年改為大洋生產(chǎn)大隊(duì)。
1962年4月劃歸大衢縣，與灘滸山、小洋山、徐公島合并設(shè)洋山公社。
1964年7月復(fù)歸嵊泗縣。
1966年分設(shè)為大洋、小洋、灘滸3個(gè)公社。
1984年復(fù)為大洋鄉(xiāng)。
是年12月改置鎮(zhèn)。
2001年2月與小洋、灘滸2鄉(xiāng)合置洋山鎮(zhèn)。