黑龙江牡丹江市设置较晚。古时沿革不详。最早可追朔到铺设东清铁路时期,当时曾经在东部线(即当时的滨绥线)、牡丹江两岸设置了驿站,名为牡丹江驿。但在同时铺设的图佳线上亦新设置了一个牡丹江驿(别称宁北),故将滨绥线牡丹江驿称为南牡丹江驿。到了康德四年(1937年)在实行第二次地方行政机构改革中,设置了牡丹江市,并在原十四省的基础上,增设了牡丹江省、通化省。牡丹江市为牡丹江省省公署所在地。康德十年(1943年)十月设置了东满总省(包括牡丹江、东安、间岛)和兴安总省(包括兴安东、西、南、北四省),东满总省公署驻牡丹江市。东北光复后,民国三十六年(1947年)六月五日公布东北新省区方案,废除伪省制,划东北为九省。牡丹江市划属松江省所辖,仍为省会所在地。全国解放后,划东北为三省,此市又划归黑龙江省所辖。