隋唐属黑水靺鞨部，后归黑水都督府，辽属女真五国部的“奥里米部”，金属胡里改路，明属奴儿干都司，清为黑龙江副都统辖区。
清宣统二年（1910），在高家屯设分防巡检。
1912年7月，划归萝北厅设治局管辖。
1913年末改为高家屯警察事务所。
1914年7月1日，改设萝北县高家屯佐治局。
1914年10月9日，奉令改为绥东城县佐。
1917年3月30日，以绥东县佐所辖区域设置绥东设治局，隶属黑龙江省黑河道。
1926年9月，将设治局移至敖来密屯（今绥滨镇西敖来村）。
1927年于敖来村东一公里处始放新街基（今绥滨镇），并将设治局迁驻新建局署。
1929年1月，将绥东设治局升改绥东县。
因与热河省绥东县重名，将绥东县改为绥滨县，直隶黑龙江省管辖。
东北沦陷后，初隶黑龙江省。
1934年12月划归三江省管辖。
1945年“九三”抗日战争胜利后，划归合江省管辖。
1949年5月，撤销合江省，改隶松江省。
同年6月23日，东北行政委员会批准，撤销绥滨县，并入富锦县。
1963年12月30日，恢复绥滨县，以富锦县松花江以北的绥滨地区为绥滨县的行政区域，县址设于绥滨镇，隶属合江专区。
1985年1月，撤销合江地区，划归佳木斯市管辖。
1987年11月6日，划归鹤岗市管辖。