河南省は平原、盆地、山地、丘陵が多く、地形が複雑で、西部が高くて、東部は低く、霊宝市にある老鴨岔が最高峰で、海抜は2413.8メートル、最も低いところは、南東部のかい河流域で、海抜はわずか23.2メートルで、地勢の高低の差が大きい。北、西、南の三方をそれぞれ太行山、伏牛山、桐柏山、大別山に囲まれ、山と山の間には小さな盆地がある。東部には大平原が広がっている。平原と盆地の面積は9万3000平方メートル、山地と丘陵の面積は7万4000平方メートルで、それぞれ本省総面積の55.7%、44.3%を占めている。
北半球の亜熱帯から温帯へと移り変わる気候に属し、四季の違いがはっきりしている。年間平均気温は12.6―16.5度、降雨量は240―1080ミリで、主に夏に集中している。年間の日照時間は2010―2640時間。