山西金融職業學院始建于1978年，其前身“山西銀行學校”是山西省唯一的一所部屬全日制金融中等專業學校，建校以來為金融戰線和其他行業培養了一萬余名中等專業人才。“山西銀行學校”2001年與人民銀行脫鉤，轉歸山西省教育廳直屬管理。2002年5月經山西省人民政府批準籌建“山西金融職業學院”，2003年1月經山西省人民政府批準，國家教育部備案，正式成立“山西金融職業學院”，從中專教育升格為高等職業教育，隸屬于山西省教育廳。