临沂，古称琅琊。春秋之齐国置有琅琊邑，这是琅琊作为地名第一次出现。秦统一六国后，实行郡县制，置琅邪郡，郡境为山东东南部，涵盖今临沂大部。东汉时期，临沂作为琅琊治所地的首府，是琅琊政治文化核心之地。

宋朝时，置沂州，治所在临沂，琅琊不再作为地名。琅琊之所以更名临沂，也有部分原因是取“临近沂水”之意，因地临沂河得名，故名“临沂”。

宋以后琅琊地名随着撤郡而消亡，而临沂地名却一直延续了下来。清代临沂设府，二十世纪九十年代国家将县级临沂升格为现在的地级临沂市。