黄山山体主要由燕山期花岗岩构成，垂直节理发育，侵蚀切割强烈，断裂和裂隙交错，长期受水溶蚀，形成花岗岩洞穴与孔道。全山有岭30处、岩22处、洞7处、关2处。黄山的第四纪冰川遗迹主要分布在前山的东南部。

黄山集八亿年地质史于一身，融峰林地貌、冰川遗迹于一体，兼有花岗岩造型石、花岗岩洞室、泉潭溪瀑等丰富而典型的地质景观。前山岩体节理稀疏，多球状风化。后山岩体节理稠密，多柱状风化，山体峻峭，形成了前山雄伟、后山秀丽的地貌特征。

黄山群峰林立，素有三十六大峰，三十六小峰之称，雄伟的莲花峰、平旷的光明顶、险峻的天都峰并称黄山三大主峰，雄居在景区中心，周围还有77座千米以上的山峰，群峰叠翠，有机地组合成一幅有节奏旋律的、波澜壮阔、气势磅礴、令人叹为观止的立体画面。因而黄山有天下第一奇山之美称。也是全国唯一拥有世界文化遗产、自然遗产和世界地质公园三顶世界桂冠的景区。