明永乐四年(1406)设麦兰河卫,隶属奴儿干都司。
清代属宁古塔副都统辖区。
清光绪初年试办屯田,开辟宁古塔至三岔口等驿道后,垦民渐集,兴建屯落。
清光绪二十八年十二月十三日(1903年1月11日),设置穆棱河分防知事厅,隶属绥芬厅。
清宣统元年四月十五日(1909年6月2日),将穆棱河分防知事所辖地方改设穆棱县,治所驻上城子(今兴源镇),隶属吉林省东南路道。
1914年6月改隶依兰道。
1929年2月,改由吉林省直辖。
1930年4月,县址迁至八面通镇。
1934年12月划归滨江省。
1937年属牡丹江省。
1938年10月,县治迁至穆棱街(今穆棱镇)。
1939年6月,将细鳞河、太岭和黑老婆沟、小穆河、龙山等地分别划归新设置的绥阳县和林口县。
1943年10月属东满总省。
1945年5月属东满省。
1946年4月属绥宁省,同年10月属牡丹江专区。
1947年1月5日,将穆棱县划分为南穆棱县和北穆棱县。
南穆棱县驻穆棱街,管辖南区、北区、兴源、磨刀石、下城子、马桥河等地;北穆棱县驻八面通,管辖八面通、东区、西区、梨树镇、穆棱矿等地。
同年6月15日,南穆棱县改为穆棱县,北穆棱县改为穆北县。
两县均隶于牡丹江专区。
同年10月1日,将穆北县并入穆棱县,县址驻八面通,由牡丹江省直辖。
1948年7月划归松江省管辖。
1954年8月,改由黑龙江省管辖。
1956年3月属牡丹江专区。
1957年1月,将梨树镇划归鸡西市。
1983年9月,改由牡丹江市领导。
1995年3月7日撤销穆棱县,设穆棱市(县级),由黑龙江省直辖,牡丹江市代管。
2007年7月,将磨刀石镇划归牡丹江市阳明区。
名称沿用至今。