永乐宫
魏晋南北朝初期的三国时期，今山西全境属魏国。西晋末年，西晋永安元年（304年）匈奴酋长刘渊起兵左国城（今吕梁离石区）建国“汉”，不久迁都平阳（今临汾尧都区），建立北方第一个少数民族政权。随后其子刘聪打下长安（今陕西西安西北）灭西晋，由此开始中国历史上一百多年的“五胡十六国”割据一方的局面。在此期间，山西境域为刘渊族侄刘曜创建的前赵、羯族首领石勒创建的后赵、鲜卑族首领慕容皝创建的前燕、氐族首领苻洪创建的前秦、氐族贵族姚苌创建的后秦、鲜卑族首领慕容泓创建的西燕、鲜卑族首领慕容垂创建的后燕、匈奴部族首领赫连勃勃建立的夏国、鲜卑族首领拓跋珪创建的北魏等国的领地。
北魏太延五年（439年），北魏统一黄河流域，结束了北方四分五裂的局面，山西为北魏领地。永熙三年（534年），北魏分裂为东魏、西魏，山西绝大部分为东魏领地，南部余部为西魏领地。后来，北齐取代了东魏，北周取代了西魏。北周建德六年（577年），北周灭北齐，山西统一为北周领地。
隋朝建立和统一全国后，起初在地方取消了郡一级建制，在要冲诸州设总管府，以州刺史兼总管，统领邻近数州。山西境内并、代、隰、朔4州设总管府。后来隋又改州为郡，地方实行郡县两级制，最多时全国置190郡。山西及周边河北、内蒙一带为太原、定襄、马邑、雁门、娄烦、西河、离石、上党、长平、临汾、龙泉、文城、河东、正平14郡分辖，其中14郡治所均在山西，山西境内置有90余县。
唐高祖李渊起兵太原，建立了大唐王朝，由此，山西被唐高祖认为是“龙兴”之地，封太原为唐王朝的“北都”、“北京”。
云冈石窟
宋朝时期，山西是中国北方的主要发达地区。
元代，全国共11个行省，山西与山东、河北，并称为元朝“腹地”，大同、平阳（今临汾）、太原三城则成为黄河流域的著名都会。
进入半殖民地半封建社会以后，山西的经济、文化发展受到严重破坏。
山西作为革命老区，在民国十年（1921年），中国早期的马克思主义者高君宇在太原组建社会主义青年团，开展革命活动。红军长征到达陕北后，毛泽东率领红军主力渡河东征，在晋西、晋中、晋南各地遍撒革命火种。
抗战爆发后，八路军三大主力挺进山西，创立了敌后抗日根据地。十四年抗战中，山西是全国抗战的重要战略支点；山西地方党组织培养了15万名共产党员，根据地向八路军输送了60万热血青年。
民国三十八年（1949年）4月，山西全省解放。9月，成立了山西省人民政府。
平遥古城
行政区划
清代山西地图
截至2018年，山西省共辖11个地级市，省会太原市居山西省中部，其余10个市从北到南分别是：大同、朔州、忻州、阳泉、吕梁、晋中、长治、晋城、临汾、运城。山西省人民政府驻太原市小店区省府街3号。[1]
全省11个地级市中，辖区最大的是忻州市，最小的是阳泉市；117个县级行政单位中，辖区面积最大的是吕梁兴县、忻州原平市、朔州平鲁区，最小的是临汾曲沃县、临汾侯马市、阳泉矿区。共辖1398个镇、乡、街道（564个镇、632个乡、202个街道），建制村28079个。
