山东的山古时有两个意思，一是指崤山，古时是指崤山以东的广大地区，即秦国东边的中原地区。比如《史记》常有山东豪杰如何如何，就是指的这层含义。古诗：“坑灰未冷山东乱”。二是指太行山，泛指太行山以东的地区，山东省名即来源于此。
崤山，以古崤县得名，又称嵚崟山、肴山，古代地名，在河南省西部，洛宁县西北，长安(今陕西省西安)、洛阳之间的黄河流域，常与附近的函谷关并称崤函，是中国古代军事战略重地，以地势险峻、关隘坚固、易守难攻著称，天下"九塞"之一。《春秋》僖公三十三年(前627年)晋人及姜戎败秦师于崤，即此。
崤山山脉为秦岭东段支脉，西南-东北走向，分东西两崤，延伸在黄河和洛河间，长160千米。为褶皱断块山，海拔大多在1500米以上，山势自西南向东北逐渐低缓。高峰有青冈(即甘山、千山,1903米)、冠云山(1866米)等。植被为栎类、华山松和油松等。煤、铝土等矿产较丰富。北麓灵宝寺河山一带产优质苹果。崤山中有南、北二崤道，亦称南陵、北陵。南陵有夏后皋之墓，北陵有周文王避风雨台遗址。《括地志》记载:"文王所避风雨，即东崤山，在夏后皋墓北十里许。其山幽深可荫，有回溪阪，行者畏之。"崤山中还有太初宫、鸡鸣台、瞻紫楼等名胜古迹和风景点。