1882年，张之洞任山西巡抚期间奏准在太原府署西偏明代晋藩宝贤堂故址创立令德堂。1897年，更名为山西省会学堂。1912年，更名为山西师范学堂。

       1952年，太原市教育局在北肖墙创立太原女子中学校，成为山西省实验中学历史的正式开端。

       1955年7月，太原女子中学更名为太原第十初级中学校，并迁往解放路省实验中学校址。

      1958年，学校由初级中学校更名为山西省太原第十中学校。

      1986年，正式更名为山西省实验中学，学校划归省教育厅直接领导。 [1-2] 

       2000年，学校在太原市南部的国家级高新技术产业开发区建设高新校区（晋阳街）。

       2009年9月，省实验中学高新校区落成启用。

学校有100多年的发展历史。　　山西省实验中学前身可追溯至1882年清末洋务运动著名领袖、中国近代史上杰出的教育家、时任山西巡抚张之洞创建的令德堂书院（令德学堂），学堂旧址即今天的解放路校区。1902年山西大学堂创建之前，令德堂书院是山西省的最高学府。1905年，令德堂书院更名为山西省师范学堂。中华人民共和国成立后，1952年，山西省师范学堂更名为太原女子中学。1955年更名为太原市第十中学。1986年4月，经山西省人民政府批准，更名为现在的山西省实验中学。　　2000年始，山西省实验中学在太原市南部的国家级高新技术产业开发区建设高新校区（晋阳街）。新校区已于2009年9月起陆续投入使用，目前学校的高中部位于新校区，而初中部仍留在老校区。　　2002年9月，山西新兴实验中学（山西新兴学校）成立。其前身是山西省实验中学的分校。但其地位很少被承认。