张公山是历史文化名山涂山山脉的组成部分，有着悠久的历史，据《怀远县志》记载：明朝嘉靖年间此山就叫张公山，山下一湖，名化陂湖，现更名为张公湖。相传，明朝有个张姓战将，解甲归田，隐居山下，由于他德高望重，当地百姓尊称张公，张公山因此得名。清朝，张公山顶建有寺庙，每年还有一次初春庙会。该庙原名“寺山庙”，后改名“中岳庙”，又改为“观音庙”。由于庙的基础南高北洼，庙门朝北，当地百姓又称之为“倒座观音庙”。