山西的地形主要是高原，是典型的为黄土广泛覆盖的山地高原，地势东北高西南低，高原内部起伏不平，河谷纵横，地貌类型复杂多样，有山地、丘陵、台地、平原等。

山西雄踞于黄河中游左岸的黄土高原之上，境内山峦起伏，沟壑纵横，丘陵、盆地布满其间，山地、高原回互相连。因表里山河、地势险峻，自古以来，山西就是京师(西安或北京)的重要屏障，是兵家必争之地。山西是中国黄土高原的一部分，除了若干岩石裸露的峰峦，绝大部分地貌为黄土覆盖，或称山西高原。高原内起伏不平，地貌类型复杂，山地丘陵占80％还多，平原台地略近20％。全省最高点为五台山北台顶，海拔3058米，最低点在垣曲县西阳河人黄河河口处，海拔仅180米。境内大部分地区为海拔1000米，在全国显隆起的形貌。