河南省地跨长江、淮河、黄河、海河四大流域，其中海河流域1.53万平方公里，占全省总面积的9.1%，黄河流域3.62万平方公里，占全省总面积的21.7%，淮河流域8.83万平方公里，占全省总面积的52.9%，长江流域2.72万平方公里，占全省总面积的16.3%。
河南省郑州市和开封市在很多人看来误以为是黄河水系，其实大部分位于淮河水系；南阳市看着是长江水系，其实南阳市桐柏县属于淮河水系；河南省北部的安阳市是属于海河水系。
河南省地势呈望北向南、承东启西之势，地势西高东低，北、西、南三面由太行山、伏牛山、桐柏山、大别山沿省界呈半环形分布；中、东部为黄淮海冲积平原；西南部为南阳盆地。平原和盆地、山地、丘陵分别占总面积的55.7%、26.6%、17.7%。灵宝市境内的老鸦岔为全省最高峰，海拔2413.8米；海拔最低处在固始县淮河出省处，仅23.2米。