明永樂四年(1406)設(shè)麥蘭河衛(wèi)，隸屬奴兒干都司。
清代屬寧古塔副都統(tǒng)轄區(qū)。
清光緒初年試辦屯田，開辟寧古塔至三岔口等驛道后，墾民漸集，興建屯落。
清光緒二十八年十二月十三日（1903年1月11日），設(shè)置穆棱河分防知事廳，隸屬綏芬廳。
清宣統(tǒng)元年四月十五日（1909年6月2日），將穆棱河分防知事所轄地方改設(shè)穆棱縣，治所駐上城子（今興源鎮(zhèn)），隸屬吉林省東南路道。
1914年6月改隸依蘭道。
1929年2月，改由吉林省直轄。
1930年4月，縣址遷至八面通鎮(zhèn)。
1934年12月劃歸濱江省。
1937年屬牡丹江省。
1938年10月，縣治遷至穆棱街（今穆棱鎮(zhèn)）。
1939年6月，將細(xì)鱗河、太嶺和黑老婆溝、小穆河、龍山等地分別劃歸新設(shè)置的綏陽縣和林口縣。
1943年10月屬東滿總省。
1945年5月屬東滿省。
1946年4月屬綏寧省，同年10月屬牡丹江專區(qū)。
1947年1月5日，將穆棱縣劃分為南穆棱縣和北穆棱縣。
南穆棱縣駐穆棱街，管轄南區(qū)、北區(qū)、興源、磨刀石、下城子、馬橋河等地；北穆棱縣駐八面通，管轄八面通、東區(qū)、西區(qū)、梨樹鎮(zhèn)、穆棱礦等地。
同年6月15日，南穆棱縣改為穆棱縣，北穆棱縣改為穆北縣。
兩縣均隸于牡丹江專區(qū)。
同年10月1日，將穆北縣并入穆棱縣，縣址駐八面通，由牡丹江省直轄。
1948年7月劃歸松江省管轄。
1954年8月，改由黑龍江省管轄。
1956年3月屬牡丹江專區(qū)。
1957年1月，將梨樹鎮(zhèn)劃歸雞西市。
1983年9月，改由牡丹江市領(lǐng)導(dǎo)。
1995年3月7日撤銷穆棱縣，設(shè)穆棱市（縣級(jí)），由黑龍江省直轄，牡丹江市代管。
2007年7月，將磨刀石鎮(zhèn)劃歸牡丹江市陽明區(qū)。
名稱沿用至今。