清末確立新學制,各地興辦學堂。1907年,舉人任學椿在南陽創辦了南陽縣師范傳習所,其后改名為師范短訓班、南陽縣立師范、南陽縣立簡易鄉村師范,學校校址也幾經遷移,南陽縣察院、常平倉、元宗學堂、潦河街、臥龍園藝學校等都曾留下了學校曲折發展的足跡。
1948年11月,南陽解放前夕,各類學校都被國民黨守軍王凌云裹脅南下。南陽解放后,南下師生紛紛歸來要求復校。
南陽專署于1948年6月30日向當時的河南省人民政府教育廳請示“在南陽設立師范學校一所”,得到批準。但是,由于條件所限,新批準設立的師范學校并沒有單獨設置辦學,而是暫掛靠在省立南陽中學作為師范班,邊籌建邊招生。1951年,師范班從省立南陽中學中獨立出來,成立河南省立南陽師范學校,從此拉開了南陽師范教育新的篇章。
1957年,河南省立南陽師范學校與南陽第二師范學校合并。1958年9月,河南省立南陽師范學校更名為南陽師范??茖W校。
1961年,南陽師范??茖W校與南陽藝術師范學校合并。1962年3月,南陽師范??茖W校更名為南陽師范學校。1962年8月,南陽師范學校與南陽教育行政干校合并。
1978年,南陽師范學校更名為南陽師范??茖W校。1992年5月,南陽師范專科學校更名為南陽師范高等專科學校。
2000年3月,經國務院批準,南陽高等師范專科學校與南陽教育學院合并組建南陽師范學院,成為南陽歷史上第一所省屬全日制本科高等學校,實現了南陽高等教育的歷史性跨越。