夏商时，榆林市的部分地方在雍翟族境内；战国时为秦国上郡地；三国时期，上郡、西河郡为匈奴占据，未设置郡县；东晋时期，匈奴王赫连勃勃在统万城（今靖边白城子）建立大夏国；隋开皇三年改称上州，三年撤销州制，设立朔方、雕阴二郡；五代时期州县设有夏州府；北宋时，榆林市属永兴军路，绥州、宥州被西夏占据，未设郡；明成化七年（公元1471年），在长城一带设置榆林卫，孝宗弘治十八年九月设立东路神木道，领佳州、府谷、神木三州县，中路榆林道领绥德、米脂、清涧、吴堡四州县，西路靖边道领保安、安定、安塞三县，包括榆林市的定、靖、横三县；清雍正年间，设有榆林府和绥德直隶州两个省辖行政区；1958年将十二县并为榆林、神木、靖边、定边、绥德、米脂六县；2015年12月3日，国务院批复同意撤销横山县，设立榆林市横山区，以原横山县的行政区域为横山区的行政区域，横山区人民政府驻横山街道北大街9号。