古代的山东，主要指函谷关以东的黄河流域包括今天的山西地区，有时也泛指战国时期秦国以外的六国领土。比如《史记》常有山东豪杰，就是指的这层含义。

东汉时期，人们通常以太行山以东为山东。

西周、秦、西汉时期，人们通常以华山或崤山以东的平原地区作为山东。