夏至周时为肃慎。
西汉时为扶余。
北魏时属勿吉。
隋唐时期，五常称莫颉府，辖宾县、呼兰等地，归渤海国管辖。
辽金时代称裴满部、甲骨部、金归上京管辖。
元朝称剌邻，是元大都通往黑河的大驿站。
明朝年间在五常建立纳林河卫所和摩琳河卫所，隶属于努尔干都司。
清朝雍正3年，在拉林设立协领;乾隆9年，改设拉林副都统，今副省级;乾隆34年降为协领;到光绪6年，改设五常厅，宣统元年改五常府。
民国2年，改为五常县。1947年先后成立山河、拉林两县，同年山河县撤消并入五常。
1956年3月，拉林县撤消并入五常。至1993年8月28日五常撤县设市。