山西山东的山所指的是太行山。
太行山也叫做女娲山、五行山、王母山，位于河北平原与山西高原之间，是我国东部地区自然与行政区划上重要的分界线。山东省与山西省便是以太行山为划分。在古代，所谓的山东山西，就是指太行山以东是山东，以西是山西。而在现代中国的行政区划当中，山东与山西并不接壤，而且两省之间还有河北省相隔。
我国像山东和山西这样相互联系的地名不在少数，大多都是按照自然地理特征来划分和命名。同时，历史上山西山东的行政划分和区域归属曾经有过多次改变，而其中的“山”也随之发生变化，比如泰山、恒山、华山、崤山等等，但由于意识与习惯上的传统，我们还是会说太行山是山西山东的分界。