临汾市地形轮廓大体呈“凹”字型分布，四周环山，中间平川，全境分山地、丘陵、盆地三大地形单元。其中，平川面积占19.4%，丘陵面积51.4%，山地29.2%。临汾盆地纵贯临汾市中部，将整体隆起的高原分为东西两部分山地。东部由北向南为太岳山、中条山，西部是吕梁山脉，海拔多在1000米以上。

最高处太岳山霍山主峰，海拔2346.8米，最低处乡宁县师家滩，海拔385.1米。境内有黄河、汾河、昕水河、沁河、浍河、鄂河、清水河7条河流和郭庄、龙祠、霍泉三大名泉。