山西是中华民族发祥地之一，被誉为华夏文明摇篮”。女娲补天”的传说就发生在山西。华夏民族的始祖黄帝和炎帝都曾在山西活动。我国上古时代的三个帝王尧、舜、禹均在山西南部建都，为尧都平阳(今临汾市)”、舜都蒲坂(今永济市)”、禹都安邑(今夏县)”。春秋时期，晋文公重耳是春秋五霸之一。北魏时，大同(当时称平城)曾作为北魏的都城名重一时。隋朝末年，李渊父子起兵晋阳(今太原市)，继而夺取长安，建立唐朝，后把太原定为大唐帝国的北都。元末明初，中原连年战乱，灾荒频繁，而山西尤其是晋南一带，经济繁荣，人口稠密，成为明初向外移民的主要地区。在长达半个世纪的时间内，山西曾向外移民十几次。洪洞县大槐树是当时一个主要移民站。全国不少地方流传的问我祖先在何处，山西洪洞大槐树”，即由此而来。明清时期，晋商和山西票号崛起，著称中外。
山西具有丰富的民族文化遗产，旅游资源十分丰富。现存宋、辽、金以前的地面古建筑占全国的70%以上。山西著名的旅游景点有：大同旅游区的云冈石窟、悬空寺、应县木塔以及中国五岳之一的北岳恒山；忻州旅游区的五台山、芦芽山、代县杨家将故地；太原旅游区的晋祠、晋中的平遥古城、昔日晋商的豪宅大院；临汾旅游区的尧庙、洪洞县的大槐树、广胜寺、吉县黄河壶口瀑布；运城旅游区的解州关帝庙、芮城永乐宫、夏县司马光墓、永济黄河铁牛和莺莺塔，等等。其中平遥古城和云冈石窟已列入世界文化遗产。
在中国的各个历史时期，山西曾涌现出许多政治家、军事家、文学家、历史学家。最著名的有春秋时期的霸主之一晋文公重耳，有中国唯一的女皇帝、唐代杰出的政治家武则天，有中国的“武圣”、三国时期名将关羽，有中国第一部编年体通史《资治通鉴》的作者、宋代著名史学家司马光，有中国古代四大名著之一《三国演义》的作者罗贯中，有唐代著名诗人王勃、王之涣、王维、白居易，唐代著名散文家柳宗元，有元代著名戏曲家关汉卿、白朴等。
山西是著名的革命老区。早在1921年，中国早期的马克思主义者高君宇，就在太原组建社会主义青年团，开展革命活动。红军长征到达陕北后，毛泽东亲自率领红军主力渡河东征，在晋西、晋中、晋南各地遍撒革命火种。全国抗战爆发后，八路军三大主力挺进山西，创立了敌后抗日根据地。八年抗战中，山西是华北抗战乃至全国抗战的重要战略支点；山西地方党组织培养了15万名共产党员，根据地向八路军输送了60万热血青年。解放战争期间，山西成为支援全国解放的战略基地，广大民众积极支援前线，大批地方干部南下或东进、西进，奔赴新区，为中国革命做出了重大贡献。