周，属肃慎。
汉晋，属挹娄。
南北朝，属勿吉。
隋唐，属靺鞨。
辽代，属五国部。
金代，属胡里改路。
元朝，属水达达路。
明朝，属奴儿干都司。
清朝，属吉林将军三姓副都统辖区。
清光绪十四年（1888年），于今市内永红区丈放“东兴镇街基”。
光绪二十一年（1895年），广商户渐开。
光绪三十二年（1906年），设置依兰府，归依兰府管辖。
宣统二年正月二十日（1910年3月1日），正式设置桦川县，改隶桦川县管辖。
桦川县署驻东兴镇。
民国元年（1912年）11月，桦川县署迁驻悦来镇。
民国??十九年（1930年），佳木斯屯与东兴镇合并，定名为“佳木斯镇”，隶属桦川县管辖。
民国二??十三年（1934年）12月1日，东北沦陷后，伪满新设三江省，伪省公署驻佳木斯。
同时，伪桦川县公署移驻佳木斯镇。
民国??二十六年（1937年）6月27日，伪满决定，调整行政区划，设置佳木斯市，9月成立佳木斯市制筹备处，12月1日正式成立伪佳木斯市公署，由三江省管辖。
民国三??十四年（1945年）抗日战争胜利后，同年10月下旬，在佳木斯成立三江地区行政公署；11月21日，撤销三江地区，设置合江省，省政府驻佳木斯市。
民国三??十八年（1949年）5月，撤销合江省并入松江省，由松江省直辖。
1954年8月，松、黑两省合并后，由黑龙江省直辖。
1956年3月，桦川县人民委员会由佳木斯移驻湖南营镇。
1958年8月，佳木斯市划归合江专区代管。
1966年2月，佳木斯市改由省直辖。
1968年4月，划归合江地区管辖。
1983年11月1日，佳木斯市改由省直辖。
1984年12月15日，经国务院批准，撤销合江地区。
将桦南、集贤、宝清、富锦、依兰、汤原、桦川、萝北、绥滨、饶河、同江、抚远、友谊县共十三县划归佳木斯市管辖。