旧时，黄山交通闭塞，游人罕至。秦汉时期，见于文字记载隐居黄山者，唯有会稽太守陈业。直至唐宋，黄山乃渐为世人所识，山上寺庙宫观才日渐增多。随着名士隐居、宗教传入，开发建设也随之开始。黄山开发建设大体经历了四个时期。

明末清初宗教开发时期：明朝万历三十四年，普门禅师来山，创建法海禅院，受敕扩建为“护国慈光寺”。此后在玉屏峰前建文殊院，在光明顶建大悲院。

中华民国初步建设时期：民国21年，由国民党元老许世英发起，邀集皖籍同仁张治中、徐静仁与安徽省政府主席刘镇华等，筹备成立黄山建设委员会。民国32年4月，成立黄山管理局，隶属安徽省政府。

建国初期恢复建设时期：整修登山步道，开通逍遥亭至温泉公路，先后兴建观瀑楼、黄山宾馆、温泉游泳池、海门精舍等。文化大革命期间，黄山各项工作基本陷于停顿。

改革开放以后快速发展时期： 1979年10月，安徽省黄山管理局成立，黄山可以正式对外开放。