戰(zhàn)國至西漢期間，嘉蔭境內(nèi)即有人類居住，隋唐、遼金時期為女真居住地。
明朝開始在境內(nèi)各滿族部落設“衛(wèi)”、“所”，17世紀后主要為鄂倫春游獵之地。
清初，嘉蔭地面歸黑龍江將軍管轄，光緒三十二年為興東道管轄。
民國元年烏云、佛山地面為蘿北縣轄地，1916年設烏云設治局，隸屬黑河道尹公署，1927年劈烏云、蘿北二縣局設佛山設治局，兩年后烏云、佛山設治局同時升為三等縣，隸屬黑河市政籌備處，東北淪陷時期隸屬黑河省、三江省管轄。
1945年烏云、佛山兩縣先后光復，1947年成立佛山縣工委和佛山縣人民政府，撤消烏云縣建置，先后隸屬合江省、松江省管轄，1952年劃歸黑龍江省黑河地區(qū)。
因佛山縣與廣東省佛山市重名，取境內(nèi)較大河流嘉蔭河之名，1955年更名嘉蔭縣。
1970年劃屬伊春市至今。