清代属黑龙江副都统辖地。
清光绪三十二年（1906）绥兰海兵备道自绥化城移驻小兴安岭以东，改为兴东兵备道。
清光绪三十四年（1908），黑龙江巡抚奏准，拟于托萝山北设置萝北直隶厅，归兴东道管辖。
1912年6月26日，改设萝北厅设治局。
1914年7月1日，奉令将萝北设治局改为萝北县，为二等县，隶属黑河道。
1916年5月，将县境北部温河、保兴一带划出设置乌云设治局。
1917年3月30日，黑龙江省长公署令，将县境东部划出，设置绥东设治局。
东北沦陷后，隶属黑龙江省。
1933年8月，伪县公署迁驻兆兴（今肇兴镇）。
1934年12月，划归三江省管辖。
1939年6月，将宝泉保、梧桐保划归新设之鹤立县管辖。
1941年10月，伪县公署迁驻“凤翔”。
1945年“九三”抗日战争胜利后，隶属合江省管辖。
1947年1月，县政府迁至“兆兴”。
1949年5月，撤销合江省，划归松江省管辖。
1954年8月，松、黑两省合并后，划归合江专区管辖。
同年10月，县政府移驻万财村（今凤翔镇）。
1957年7月，将鹤岗市的宝泉岭农场划归萝北县。
1958年11月，将宝泉岭农场划归鹤岗市。
1964年5月30日，国务院批准，将宝泉岭农场划归萝北县。
1985年1月1日，将萝北县划归佳木斯市领导。
1987年11月6日，国务院批准，划归鹤岗市领导。