从西汉末年起，有一些匈奴人分散居住在北方边远郡县，他们和汉族人在一起生活久了，接受了汉族的文化。匈奴贵族以前多次跟汉朝租亲，可以说是汉朝皇室的亲戚，后来就改用汉皇帝的刘姓。曹操统一北在

方后，为了便于管理，把匈奴许多部落集中起来，分为五个部，每个部都设一个部帅，匈奴贵族刘豹就是其中一个部的部帅。

刘豹死后，他的儿子刘渊继承了他的职位。刘渊自幼读了许多汉族人的书，文才很好，同时武艺也很高强。后来，刘渊在西晋的成都王司马颖（八王之一）部下当将军，留在邺城，专管五部匈奴军队。

公元304年，刘渊回到左国城，匈奴人想借八王混战之机，复国兴邦，便拥戴他做大单于。他集中了5万人马，亲自率军南下，帮助晋军攻打鲜卑兵。有人不解地问他：“为什么不趁这个机会灭掉晋朝，反倒去打鲜卑呢？”

刘渊说：“晋朝现在已经腐朽透顶了，灭掉它非常容易，但是晋朝的百姓未必会归顺我们。我看汉朝立国的年代最长，在百姓中还很有响，我们的上代又与汉朝皇室有血缘关系，不如借用汉朝的名义，也许可以得到汉族百姓的支持。”

刘渊称汉王后，不久便攻下了上党、太原、河东、平原等几个郡，声势越来越大。一些势力比较小的各族反晋力量也都前来归附刘渊。

公元308年，刘渊称汉帝。第二年迁都平阳（今山西临汾西南）,集中兵力向洛阳进攻。洛阳的老百姓虽然恨透了腐朽的西晋王朝，但是更不愿受外族人统治。所以刘渊两次进攻，都遭到洛阳军民的顽强抵抗，没有占到一点便宜。

刘渊死后，他的儿子刘聪接替了皇位，又派大将刘曜、石勒进攻洛阳。洛阳城终于在公元311年被攻陷，晋怀帝做了俘虏。

刘聪进洛阳后，大批屠*晋朝的官员和百姓。有一次，刘聪在宴会上，让晋怀帝穿着奴仆穿的青衣为大家倒酒。一些晋朝的旧臣看了，禁不住失声痛哭。刘聪看晋朝遗臣还对怀帝这样有感情，便狠下心来，把怀帝*了。

晋怀帝死后，在长安的晋国官员拥立怀帝的侄儿司马邺做了皇帝，这就是慰帝。

公元316年，刘聪攻入长安。晋慰帝也遭到了与怀帝同样的命运，在受尽侮辱后被*，西晋王朝终于灭亡了。

西晋灭亡之后，北方的各族人民纷纷起义，许多人像李雄、刘渊一样建立政权，前前后后一共出现16个割据政权，历史上称为“十六国”(旧称五胡十六国，胡是古时候对少数民族的泛称）。