1、在古代，山西山东的山一是崤山，二是华山。
2、在古代，作为地区名的“山西”，最初并不指今山西省地区。从文献记载来看，战国至西汉，人们是以崤山（今河南省三门峡市东南）或华山（今陕西省华县东）为界来区分山东、山西地区的，当时的“山西”，是指函谷关以西地区，主要是指以秦都咸阳、汉都长安，即今陕西省西安市为中心的地区；当时的“山东”，主要指函谷关以东的黄河流域（包括今天的山西地区），有时也泛指战国时期秦国以外的六国领土。比如《史记》常有山东豪杰如何如何，就是指的这层含义。
3、在现在， 山西山东的山是指太行山，山西东为太行，西为吕梁。
4、到了东汉，开始以太行山为界划分山东、山西，东汉光武帝曾称赞大将邓禹“斩将破军，平定山西”，即是指今天的山西省地区。
5、这种变化，是与国都的位置相关联的，西周、秦、西汉的国都皆在今陕西省西安市附近，对于这里的人来说，华山或崤山以东的平原地区便是山东；东汉的国都在今河南省洛阳市，故以其北面的太行山脉作为地理坐标，以划分山东、山西。
6、后来地区的界线日益准确，便以“山西河东”来指今山西地区，如隋末李渊曾任“山西河东黜陟讨捕大使”。到了元代，便设置了行政区“河东山西道”，明代初称“山西行中书省”，简称山西省，后改称“山西承宣布政使司”，清代称山西省，今沿不改。
7、山西地区在历史上还曾被称为“山右”，谓其在太行山右侧（古人是从北往南看，与现在地理方位观不同）；又被称作“河东”（主要指晋南地区），是因为它位于晋陕交界之黄河以东的缘故。
8、电影歌曲《人说山西好风光》中唱道：”左手一指太行山，右手一指是吕梁。”太行山是山西与河北的交界，太行山以东是河北而不是山东。而山东泛指太行山以东的地区。山东省名即来源于此。
9、金代设置山东东、西两路，山?东第一次成为政区名称。明初置山东行省，后改称山东承宣布政使司，简称山东布政司。清初设置山东省，自此，山东正式成为本省的专名。