在李雄在称王的同一年（公元３０４年），北方的匈奴贵族刘渊反晋独立，称汉王。
从西汉末年，有一部分匈奴人分散居住在北方边远郡县，他汉族人相处久了，接受了汉族的文化。匈奴贵族认代次跟汉朝亲，是汉朝皇室的亲戚，就改汉皇帝的姓——刘。曹操统一北方，匈奴三万部落分五部，每部设部帅，匈奴贵族刘豹是其中一部的部帅。
刘渊是刘豹的儿子，从读了许汉族人的书，力气，武艺高，够拉三百斤重的弓。刘豹死，刘渊继承他父亲的职位。，在西晋的王司马颖（八王一）部将军，留在邺城，专管五部匈奴军队。
八王混战始，匈奴部落一些贵族在左国城（今山西离石北）商量。有老年贵族说：“我匈奴从汉朝始跟汉人结兄弟。经魏、晋两朝代，匈奴单代虽有封号，却有己的尺寸土，跟一般百姓有什两。现在晋朝生内乱，相残杀。正是我匈奴人恢复位的机啊！”
觉他的主意，叫谁带头呢？一议论，认刘渊有才，威望高，推他单挺合适。
贵族派使者邺城，伙儿的意思告诉刘渊，请他回。刘渊很高兴，就借口回匈奴葬己的父亲，向司马颖请假。司马颖不同意，刘渊让使者先回，并且五部匈奴集结兵力，向南移动。
，晋朝的并州刺史司马腾、将军王浚联络鲜卑贵族攻打司马颖，司马颖失败了，逃往洛阳。刘渊向司马颖求回带匈奴兵马助战，司马颖才让他走了。
公元３０４年，刘渊回左国城，伙儿拥戴他做单。他集中了五万人马，亲率领南，帮助晋军攻打鲜卑兵。有人问他，什不趁机晋朝灭掉，反倒帮助晋军呢？
刘渊说：“灭掉晋朝，不是像摧枯拉朽一容易，但是晋朝的百姓未必向着我。我汉朝立国的年代最长，在百姓中影响。我的代又是汉朝皇室的兄弟。现在汉朝亡了，我继承汉朝的名义，许民。”
听了，觉是一主意。刘渊就宣布己是汉王。
刘渊称汉王，很快攻了党、太原、河东、平原等几郡，势力越越。一些势力比较的各族反晋力量归附刘渊。
公元３０８年，刘渊称汉帝。二年迁平阳（今山西临汾西南），集中兵力进攻洛阳。洛阳的老百姓虽恨透腐朽的西晋王朝，但是不愿受匈奴贵族的统治。所刘渊两次进攻，遭洛阳军民的猛烈抵抗，不不退兵。
那候，八王中最的一王——东海王司马越在一批臣互相仇杀。晋朝留的一点点兵力消耗差不了。
刘渊死，他儿子刘聪接替做汉国皇帝，又派将刘曜、石勒进攻洛阳。洛阳的军民奋勇抵抗，但是毕竟寡不敌众。公元３１１年，洛阳城终被攻陷，晋怀帝做了俘虏。
刘聪进洛阳，杀了批晋朝的官员百姓，有一次，刘聪举行宴，让晋怀帝穿着奴仆穿的青衣给斟酒。一些晋朝的遗臣了，禁不住失声痛哭。刘聪晋朝遗臣怀帝有感情，一狠，就怀帝杀了。
晋怀帝死，在长安的晋国官员拥立怀帝的侄儿司马邺继承皇位，就是晋愍（音ｍǐｎ）帝。
公元３１６年，刘聪攻长安。晋愍帝遭了怀帝同的命运，在受尽侮辱被杀。西晋王朝维持了五十二年，终灭亡。
西晋灭亡，北方的各族人民（主是匈奴、鲜卑、羯、氐、羌五少数民族）纷纷义，他中间的层分子乘机兵，像李雄、刘渊一建立政权，前前一共现十六割据政权，历史称“十六国”（旧称五胡十六国，胡是古候少数民族的泛称）。