隋朝时期山西分属14郡

唐时属河东道，河东道管辖基本地域在今山西省和河北省西北部以及河南省西部。现山西省境分属太原府和蒲、晋、绛、慈、隰、汾、沁、辽、岚、 石、忻、代、云、朔、蔚、泽、潞州共18府州管辖。唐朝的“河东道”的整体建制形状，已经基本具有现在山西的轮廓。以黄河中游作为南西界限，以太行山为东南界，成了后来各朝代山西行政区划界限的惯例，基本沿用了上千年，而山西的北部到底以恒山还是阴山还是古长城作为界限则出现反复，这也造成雁北地区频繁地变更归属省份。

唐朝山西属于河东道（公元741年）

五代十国时山西除北部少部分割予辽国，大部分先属于后汉，然后属于后周。刘崇据太原，成立北汉后，山西分属于后周、北汉。五代十国时期，山西境内主要分属于太原府，辽、泽、石、忻、代、晋、潞等州。

五代十国时期山西先后属于后汉，后周和北汉

北宋太平兴国四年(979)灭北汉，山西大部分属于河东路，河东路设置并、代、忻、汾、辽、泽、潞、晋、绛、慈、隰、石、岚、宪法、丰、麟、府等十七州，平定、火山、定羌、宁化、岢岚、威胜六军；山西北部属于辽国西京道的大同府、朔州、应州；山西西南部属于永兴军路的解州、陕州、河中府。而山西北境仍属辽国，后为金国占据。

北宋时期山西主体属于河东路（1111年）

北宋灭亡后，山西全境归属于金国。金朝前期山西境内分属河东路、西京路。金天会六年(1128)河东路为河东南路、河东北路。山西境内分属于河东南路的平阳府，隰州、吉州、河中府、绛州、解州、泽州、潞州、辽州、耿州10个府州；河东北路的太原府、忻州、平定州、汾州、石州、代州、隩州、宁化州、岚州、岢岚州、保德州、管州12个府州；西京路的大同府、朔州、应州、蔚州。