兰州交通大学创立于1958年，是由久负盛名的唐山铁道学院(现西南交通大学)和北京铁道学院(现北京交通大学)部分系科分划组建而成的我国第三所铁路高校，时名兰州铁道学院，由铁道部教育局局长孟华兼任学院院长。50年代末至90年代末，学校隶属铁道部领导，实行行业办学管理体制。2000年，实行“中央与地方共建，以地方政府管理为主”的管理体制。2003年4月，经教育部批准，更名为兰州交通大学。
当初，铁道部选定兰州市郊北山之麓的一片荒滩为永久性校址。学校初建恰又遭遇三年困难时期，面对风沙、寒冷和饥饿的挑战，亲历延安生活的老院长贾冰岩、老书记周道远，带领师生发扬“自力更生、艰苦奋斗”的延安精神，平整土地，修盖校舍，建造家园，走过了树木树人的艰辛创业之路。昔日的荒滩而今已变成树木葱茏、绿草成茵的美丽校园，学校背靠的北山也不再黄土秃裸而绿树成片。来自京、唐两校的一批老教师，几十年如一日，甘于淡泊，勤勉敬业，矢志不渝，身体力行，使百年交大“起点高、基础厚、重实践、要求严”的优良办学传统传承至今。学校始终坚持贯彻铁道部“严字当头、铁的纪律、团结协作、优质服务”的路风建设方针，坚持从严治校，规范管理，培养出一批批胜任行业工作的工程师。在沧桑励洗的47年办学历程中，延安精神、交大传统、铁路路风相互交融，反复涤荡，凝炼成“奋发向上、艰苦朴素、刻苦钻研、严谨治学”的校风，铸就了体现时代特征的“团结拼搏、开拓进取”的大学精神。

学校建校伊始，根据铁路建设需要，成立了铁道建筑、铁道桥梁及隧道、铁道运输、铁道电机、铁道机械5个系，共设置了铁道运输、铁道建筑、内燃机车、铁道车辆、桥梁与隧道、铁道通信、铁道信号7个专业。其中，铁道运输系、铁道电机系由北京铁道学院负责组建，铁道建筑系、铁道桥梁与隧道系、铁道机械系由唐山铁道学院负责组建。“建设一流大学的关键是要建设一流的学科，建设一流学科的关键是要汇聚一流的人才。”当年，我国铁道运输学科奠基人之一的林达美教授、著名桥梁专家胡春农教授、著名铁道轨道专家沈智扬教授、著名有线通信专家孙祺荫教授、著名机械专家张殿执教授、著名无线电技术专家班冀超教授、著名数学家赵祯教授等340多名教职工于建校当年从京、唐两校成建制地调入学校。之后铁道部又抽调了一批留苏科学技术副博士和研究生充实教师队伍，从而在建校之初就奠定了铁路特色专业的主干地位和专业师资的雄厚基础。

47年来，学校各方面建设事业取得了长足发展，全校上下以国家实施科教兴国伟大战略为契机，紧紧抓住高水平的教学研究型大学的建设目标，齐心努力，抢抓机遇，深化改革，在近十年的时间里学校的办学条件有了显著改善，在人才培养、科学研究和为社会服务的规模、层次和质量上都实现了跨跃式发展。