1912年，河南大学的前身河南留学欧美准备校园，在古城开封清代贡院原址诞生，首任校长为闻名教育家林伯襄先生。 20年代初，河南督军冯玉祥将军应教育界人士在河南兴办大学的要求，决议从检查军阀赵倜的财产中拨出专款作为大学的准备基金。1923年3月3日， 在预校根底上树立的中州大学举办开学典礼，设文、理两科，冯友兰、曹理卿分任文、理科主任。
1927年6月，在冯玉祥将军的支持下，决议将河南公立法政专门校园、河南省立农业专门校园并入中州大学，树立国立开封中山大学(国立第五中山大学)，增加了农科和法科。1928年9月增设医科。
1930年8月，校园更名为省立河南大学，并改文、理、法、农、医五科为五院，张仲鲁任校长，就此河南大学正式命名。
抗日战争期间，河南大学先后曲折于河南信阳、南阳、洛阳，陕西西安、宝鸡等地，尽管图书、资料及仪器损失惨重，但仍办学不辍。1942年，河南大学由省立改为国立，办学经费有了保证。1946年后，树立工学院，后将黄河水利工程专科校园并入。
1948年，中心华夏局决议以河南大学一批前进师生为根底在宝丰筹建华夏大学，范文澜任校长。11月，将华夏大学迁往开封河南大校园址办学。1949年，华夏大学迁往武汉办学，首要系科成为今日中南财经政法大学的前身和华中师范大学的首要根底。一起，河南省人民政府以华夏大学医学院、教育系师训班500余人和河南行政学院400多人为根底，接回迁徙到姑苏的河南大学1200余名师生，重组河南大学，省政府主席吴芝圃任校长，下设文教学院、农学院、医学院、行政学院4个学院。河南大学的前史翻开了新的一页。
1952年，全国院系调整时，河南大学农学院独立并开展为河南农业大学；河南大学医学院独立并开展成为河南医科大学；河南大学行政学院独立，现为河南政法干部管理学院，河南大学水利系并入武汉大学；财经系并入中南财经学院；植物病虫害系并入华中农学院……原有的院级建制均改为系级建制。1953年8月6日，国家教育部和政务院文教委员会决议河南大学与平原师范学院两校兼并，统称为河南师范学院，在开封、新乡两地办学，分称一院、二院。1955年8月16日，河南省委对河南师范学院做调整，决议将文科会集在开封办学，理科会集在新乡办学。1956年11月，河南师范学院一院、二院别离独立为开封师范学院和新乡师范学院。开封师范学院设中文、前史、地舆、外语4系。1959年，开封师范专科校园并入我校，新增物理、化学、数学、生物4系，后又增设政教系和体育系。1962年7月，河南艺术学院并入，树立艺术系；河南体育学院并入体育系；郑州大学地舆系并入地舆系。至此，校园有中文、前史、政教、地舆、外语、数学、物理、化学、体育、艺术10个系。
1979年，更名为河南师范大学，康复教育系。1984年5月康复为河南大学。校园也由师范院校逐步开展成为河南省重点建设的综合性大学。
2008年10月17日，河南省人民政府和教育部签定省部共建河南大学协议，河南大学慎重进入省部共建高校队伍。
