佳木斯大学是1995年6月27日，经原国家教委批准，由佳木斯医学院、佳木斯工学院、佳木斯师范专科学校和原佳木斯大学四所学校合并组成。1996年11月15日，省委任命张少杰为党委书记、吕学诜为校长，组成新佳木斯大学领导班子。1996年11月21日，佳木斯大学正式挂牌启动。2000年5月、2003年5月、12月佳木斯市粮食干校、富锦师范学校、黑龙江省理工学校相继并入。 合并前的四所院校，有两所建于建国前。佳木斯医学院前身是1947年成立的合江军区卫生干部学校，1958年学校成为本科院校，1980年开始招收硕士研究生；佳木斯师范专科学校成立于1949年，原为佳木斯师范学校，1978年升格为佳木斯师范专科学校；佳木斯工学院成立于1958年，是黑龙江省第一所以农机专业为主的工科本科院校；原佳木斯大学成立于1985年，为市属地方职业大学。