学院的前身是成立于1951年的济南铁路机械学校，1958年至1963年曾升格为济南铁道学院，2004年由隶属铁道部改为山东省教育厅直属管理，2010年经山东省政府批准，学院更名为山东职业学院。