周，屬肅慎。
漢晉，屬挹婁。
南北朝，屬勿吉。
隋唐，屬靺鞨。
遼代，屬五國部。
金代，屬胡里改路。
元朝，屬水達達路。
明朝，屬奴兒干都司。
清朝，屬吉林將軍三姓副都統(tǒng)轄區(qū)。
清光緒十四年（1888年），于今市內永紅區(qū)丈放“東興鎮(zhèn)街基”。
光緒二十一年（1895年），廣商戶漸開。
光緒三十二年（1906年），設置依蘭府，歸依蘭府管轄。
宣統(tǒng)二年正月二十日（1910年3月1日），正式設置樺川縣，改隸樺川縣管轄。
樺川縣署駐東興鎮(zhèn)。
民國元年（1912年）11月，樺川縣署遷駐悅來鎮(zhèn)。
民國十九年（1930年），佳木斯屯與東興鎮(zhèn)合并，定名為“佳木斯鎮(zhèn)”，隸屬樺川縣管轄。
民國二十三年（1934年）12月1日，東北淪陷后，偽滿新設三江省，偽省公署駐佳木斯。
同時，偽樺川縣公署移駐佳木斯鎮(zhèn)。
民國二十六年（1937年）6月27日，偽滿決定，調整行政區(qū)劃，設置佳木斯市，9月成立佳木斯市制籌備處，12月1日正式成立偽佳木斯市公署，由三江省管轄。
民國三十四年（1945年）抗日戰(zhàn)爭勝利后，同年10月下旬，在佳木斯成立三江地區(qū)行政公署；11月21日，撤銷三江地區(qū)，設置合江省，省政府駐佳木斯市。
民國三十八年（1949年）5月，撤銷合江省并入松江省，由松江省直轄。
1954年8月，松、黑兩省合并后，由黑龍江省直轄。
1956年3月，樺川縣人民委員會由佳木斯移駐湖南營鎮(zhèn)。
1958年8月，佳木斯市劃歸合江專區(qū)代管。
1966年2月，佳木斯市改由省直轄。
1968年4月，劃歸合江地區(qū)管轄。
1983年11月1日，佳木斯市改由省直轄。
1984年12月15日，經國務院批準，撤銷合江地區(qū)。
將樺南、集賢、寶清、富錦、依蘭、湯原、樺川、蘿北、綏濱、饒河、同江、撫遠、友誼縣共十三縣劃歸佳木斯市管轄。