东汉初年，位于 漠北的匈奴日渐强盛，刘秀无力与匈奴战，建武二十四年(48年)，匈奴内部为争王位发生动乱，匈奴贵族相互残杀。匈奴分裂成南北二部，南部匈奴人立日逐王比为呼韩邪单于，建庭五原塞（今内蒙古包头），依附东汉称臣，被汉光武帝安置在河套地区。次年，迁庭于美稷县（今内蒙古准格尔旗西北），即“南庭”。 汉朝置使匈奴中郎将率兵保护其安全，同时控制南匈奴部众。分布地区包括今甘肃庆阳、宁夏、山西、陕西、河北省北部，内蒙古呼和浩特至包头一带。
匈奴一直对汉朝基本都很主动，只是东汉时天灾损失严重，内讧分裂后，北匈奴走战争主义路线，受各族围攻崩溃，南匈奴走和平主义路线，后面伺机灭了西晋! 汉族多数时候都显得很被动。
此外，东汉政府设立匈奴中郎将进行监护，并每年给归附的南匈奴一定的粮食、丝帛等物资，南单于则协助东汉政府共同抵御北匈奴的侵扰，这在很大程度上促进了民族间的融合。
东汉中晚期，南匈奴势力大增，因部族成分复杂，难以驾驭控制，汉朝又利用各种方式分化其部众，造成内部不隐，多次入寇东汉边塞杀官吏，又与鲜卑多次联兵深入内地袭掠，期间几位南单于被部属所杀。
东汉末年以来，周边各民族纷纷涌入中原。其中以匈奴人人数最多，史称“关中人口百余万，戎狄居半，匈汉杂居”。
三国期间，公元187年，张纯（就是渔阳那个自称天子的短命鬼）联合乌桓反叛，自立为皇帝。朝廷征发南匈奴人协助平叛，单于羌渠派左贤王於夫罗率众前往。此时的匈奴单于基本上还是大汉扶持，比较听大汉的话。但南匈奴国内的贵族反对出兵。
12月，休屠各(休屠，意为「大地女神」)与南匈奴贵族担心汉朝征发匈奴军队的事不会停止，反叛单于侵边，并州大乱。定襄、云中、五原、朔方、上郡一并流徙分散。此次叛乱，羌渠被杀。
此时，东汉正值黄巾之乱、董卓专权“挟天子以令诸侯”，各地封建割据势力并起，汉朝无暇顾及匈奴。于是，南匈奴一部参加了农民军的打土豪活动，主要活动区域在今河南省黄河以北、山西省南部地区。中平五年三月(188年4月前后)，休屠各攻杀并州刺史张懿。
羌渠被杀后，他的孩子左贤王於夫罗即位。而参与者恐被报复不认可新单于，于188年另立一位单于须卜骨，於夫罗只得前往汉朝申诉求助。正值东汉晚期大乱，只好留在河东。189年，须卜骨都侯去世，但东汉不让於夫罗回国，南匈奴国内由老王监国。
恰在此时，爆发了黄巾之乱。於夫罗觉察到大汉已经病入膏肓，此时是入主中原的最佳时期，于是趁乱独立，董卓受命前往讨伐。
同年，汉灵帝去世，何进被杀，董卓回兵长安，立汉献帝，控制中央政府，各地军阀起兵。
之后就是群雄割据，诸侯林起，中原大地到处都是战争。这个时期的於夫罗先与袁绍合作。袁绍失败后归附曹操。
195年，於夫罗去世，其弟呼厨泉继位为单于（相信喜欢玩三国游戏的童鞋们对这两位的名字不陌生）。其子刘豹，成为左贤王。
这一年，南匈奴参与了中原封建军阀的混战，沿黄河而下，占据黄河流域诸多郡县。东汉大学者蔡邕之女蔡文姬就是这一时期被刘豹掳掠去匈奴的，生下了刘渊。此时，南匈奴已经占据黄河流域诸多郡县。
之后刘渊到了许昌做人质。 在去卑死后，其子刘猛继为右贤王，统率部众。期间刘渊一直被困在许昌，一直到304年，司马颖（八王之乱中的成都王）遭攻打，刘渊建议司马颖让他回国，领五部匈奴来援，司马颖封他为北单于，让他回国。回到并州后，刘渊继位为大单于。之后刘渊称帝，建立汉赵（也叫前赵）。
公元202年，南匈奴首领归附汉丞相曹操，蔡文姬归汉。内附的南匈奴，一直居住在河套一带。曹操为了北方的稳定，先后将南匈奴分为五部，即左、右、南、北、中，分别安置在陕西、山西、河北一带。每部择立贵族为帅，后改称都尉，另选汉人为司马对其进行监督。於夫罗子刘豹为左部帅，刘豹的儿子刘渊就是十六国之中的汉赵的创建者。同时，曹操还把并州的中下层匈奴人编入汉族。这样，南匈奴上下完全编入曹魏政权，中国北方完成了实际的统一。但该措施让匈奴的很多下层人民沦为奴隶，因此魏晋时期，黄河流域出现了很多地区贩卖匈奴人和其他杂胡为奴隶的事。以至 “五胡十六国”时期，匈奴后裔刘渊利用这些下层奴隶的反抗情绪，于公元308年建立了匈奴“汉”国，并于公元316年灭亡西晋。此后，南匈奴后裔还建立了前赵、大夏、北凉等政权。公元439年，北凉国覆灭，此后不久，曾在欧洲叱咤风云的北匈奴也解体了。
公元216年， 曹操拘留南匈奴末代单于呼厨泉单于，派右贤王去卑监国。咸熙年间，左贤王刘豹之子刘渊，至曹魏首都担任人质。匈奴单于王朝终结。
在这里不得不提下曹操。曹操是三国历史上两位对游牧民族防范最严厉的诸侯之一（另一位是公孙瓒，他更狠，经常没事就去乌桓打打秋风）。曹操打败了袁绍之后，南匈奴见势不妙，投靠了曹操。他为了北方的稳定，先后将南匈奴分为五部，每部择立贵族为帅，另选汉人为司马对其进行监督。同时，曹操还把并州的中下层匈奴人编入汉族。这样，南匈奴上下完全编入曹魏政权，中国北方完成了实际的统一。
但该措施让匈奴的很多下层人民沦为奴隶，因此魏晋时期，黄河流域出现了很多地区贩卖匈奴人和其他杂胡为奴隶的事。以至于让刘渊利用这些下层奴隶的反抗情绪，建立了匈奴“汉”国，并于公元316年灭亡西晋。南匈奴后裔还建立了前赵、大夏、北凉等政权。
可以说，成也曹操，败也曹操。
在去卑死后，其子刘猛继为右贤王，统率部众，但因不服晋朝命令，271年起事攻打并州，失败。272年，遭暗杀而死。刘渊多次向晋朝请求回到故乡，但不被允许。在刘豹死后，刘渊继为左贤王，回到并州。
290年，杨骏封刘渊为五部大都督，总理南匈奴五部。司马颖出镇邺城时，将刘渊召到邺城为人质，同样封其为宁朔将军，监理南匈奴五部。
西晋因贾后乱政，引起了八王之乱，混战延续长达十六年之久，给予了匈奴人介入的机会。
建立汉赵（前赵）的刘渊，是东汉是归附的南匈奴人的左贤王，在曹魏、西晋前期一直作为人质定居在长安。之后八王之乱，各派为了拉拢文武全才刘渊，不断给他加官进爵。到八王之乱的最尾声，刘渊站在成都王司马颖一边。当时在邺城形势危机的司马颖，听从刘渊建议让他回去征召匈奴五部援助自己，并被司马颖封为大单于。乘机刘渊聚拢活跃在并州的南匈奴人势力，建立起了对抗西晋的“汉”。之所以称国号为汉，是因为刘渊认为自己是西汉和亲公主的后代，而汉这个国号对在西晋时期还是有相当号召力的。
八王之乱期间，右贤王刘宣与族人秘密拥戴刘渊为大单于，但刘渊滞留在邺城，无法回国。304年，司马颖遭攻打，刘渊建议司马颖让他回国，领五部匈奴来援，司马颖封他为北单于，让他回国。回到并州后，刘渊继位为大单于。同年，刘渊称帝，建立汉赵。310年，刘渊去世，其子刘和继位，但旋即遭刘聪杀死，刘聪继任。此后开启中国历史上的五胡十六国时期。
刘渊在304年的时候称汉王，308年的时候正式称帝。西晋的灭亡史，如果换个角度看，就是汉赵的崛起史。已经被八王之乱搞成一团乱麻的西晋，又增加了汉赵这么一股势力，可以说是乱上加乱。而且依托在汉赵之下的也有好几股势力，刘渊的儿子刘聪是一股，羯人石勒是一股、汉人王弥是一股。
刘渊没等到灭掉西晋那一天，310年就去世了。刘渊死后的第二年311年，就是西晋历史上最惨痛的永嘉之乱，西晋主力全部被石勒歼灭，而西晋都城被刘曜、王弥攻陷洛阳，晋怀帝被虏。之后的316年，刘曜攻陷长安，晋愍帝司马邺被虏，西晋彻底灭亡。西晋灭亡没多久，318年汉赵自己也乱了起来，刘渊之后的皇帝刘聪去世后，内部乱做一团，最后刘渊的干儿子刘曜被拥立为皇帝，迁都长安，改国号为赵。
刘曜称帝后的第二年319年，势力强大的石勒和刘曜闹崩，决定单干，在319年也称赵王，于是这个时期就有了两个势不两立的赵国。史学家为了区分两个政权，将建立时间较早的那个称为前赵，而后边石勒那个称为后赵。
之后的10年，前赵后赵之间的争斗，超过了和南北的东晋争斗，终于在329年，后赵灭掉了前赵。灭掉前赵之后的330年，石勒才正式称帝。不过他只再活了两年，332年便去世。石勒去世之后，侄子石虎专权，不久之后就杀掉了石勒所有的儿子，自己称帝。
十六国历史上最著名的暴君石虎把持朝政超过18年，在349年去世。他去世后不久，后赵很快陷入崩溃。冉闵乘后赵政局混乱，于350年正月杀后赵君主石鉴，称皇帝，国号魏，复姓冉氏，史称冉魏。冉闵利用汉人痛恨羯人的心里，下招屠杀胡人，一夜之间后赵地界上的羯人被杀的一干二净，羯人从此从历史上消失。一个名字就这样彻底从历史上消失，也算是前无古人后无来者。冉魏也仅仅支撑了不到两年的时间，352被前燕所灭。
南匈奴是由多个部族联合组成的国家，其下拥有多个种族，《晋书》中记录其下有19个种族，包括了：屠各种：南匈奴的中心氏族，单于出自于此、鲜支种、寇头种、乌谭种、赤勒种、捍蛭种、黒狼种、赤沙种、郁鞞种、萎莎种、秃童种、勃蔑种、羌渠种：石勒出身此氏族，可能为羯族的祖先、贺赖种（贺兰部）、锺跂种、大楼种、雍屈种、真树种、力羯种。
南匈奴的汉化程度很高，至东汉末期时，多放弃游牧，改采农业定居方式。他们被编户，除了缴税之外，还要为汉朝服兵役。
蒙古族、突厥族、契丹族等等都是南匈奴的后裔。匈奴作为一个民族在中国北方消失了，但其姓氏及其文化习俗仍部分保留了下来。我国陕北姓刘的很多，或许就是匈奴的后裔。匈奴进入中原后多以部落或氏族为姓，如姓呼延的、姓独孤的有可能是其后裔。
