山西之所以叫山西，是因为一座山，这座山就是太行山，从地理上看，山西在太行山的西边，所以叫山西，山东在太行山的东边，所以叫山东，其实准确地说，太行山是山西和河北两省的分界线。

山西二字最早是在明朝开始使用，明朝划分全国行政区时，在山西设置了山西布政使司和山西都指挥使司，相当于管理行政与军事的机构，山西二字就开始流传，到了清朝，沿用了山西二字，设置山西省，一直沿用到了今天。

其实，在明朝之前的中国历史上，今天的山西不叫山西，有两个比较俗称的叫法：一是叫做河东，二是叫做三晋。