淮北市图书馆始建于1963年，原名“濉溪市图书馆”，1971年更名为“淮北市图书馆”。

新馆于2011年6月28日落成开放，新馆坐落在美丽的相山南麓，市政府广场附近，周围芳草青青，绿树成荫，环境优美，新馆建筑典雅庄重、安静怡人，是市民读书学习的好地方。

新馆面积约10000平方米，内设淮北方志馆、少儿馆，动漫馆，现有藏书90万册、期刊报纸近800种。图书资料内容涵盖哲学、社会科学、自然科学等各学科内容，同时拥有四库全书影印本、资治通鉴以及二、三十年代民国时期的报纸资料影印本，是一个集传统文献资源和现代网络资源为一体、信息资源和人才资源交融的城市中心图书馆。