東漢初年，匈奴比較強盛，劉秀無力與匈奴戰(zhàn)，建武二十四年(48)，匈奴內(nèi)部為爭王位發(fā)生動亂，匈奴貴族相互殘殺，呼韓邪單于率領(lǐng)部眾歸附東漢王朝，從此匈奴分為南匈奴和北匈奴。東漢政府設(shè)立匈奴中郎將進行監(jiān)護，并每年給歸附的南匈奴一定的糧食、絲帛等物資，南單于則協(xié)助東漢政府共同抵御北匈奴的侵擾，這在很大程度上促進了民族間的融合。

南匈奴歸屬漢朝后，北邊諸郡都布滿了南匈奴人及北匈奴的新附之眾。此后匈奴人不斷內(nèi)遷至涼州以東并州以西，后來集中到并州中部的汾水流域一帶。

和平、安定的環(huán)境有利于南匈奴社會生產(chǎn)的發(fā)展。同時，南匈奴人從入塞開始，不僅分布沿邊諸郡，而且與漢族人錯居。

這種胡漢錯居的方式，帶來了文化上的融合，對于匈奴人由以生產(chǎn)組織和軍事組織相結(jié)合的畜牧業(yè)經(jīng)濟轉(zhuǎn)向農(nóng)業(yè)經(jīng)濟提供了便利。

公元187年，南匈奴發(fā)生內(nèi)訌，此時正值黃巾軍起義，董卓“挾天子以令諸侯”，各地封建割據(jù)勢力并起，漢朝無暇顧及匈奴。于是，南匈奴一部參加了農(nóng)民軍的打土豪活動，主要活動區(qū)域在今河南省黃河以北、山西省南部地區(qū)。公元195年，南匈奴參與了中原封建軍閥的混戰(zhàn)，沿黃河而下，東漢大學(xué)者蔡邕之女蔡文姬就是這一時期被擄掠去匈奴的。此時，南匈奴已經(jīng)占據(jù)黃河流域諸多郡縣。

公元202年，南匈奴首領(lǐng)歸附曹操。曹操為了北方的穩(wěn)定，先后將南匈奴分為五部(注2)每部擇立貴族為帥，另選漢人為司馬對其進行監(jiān)督。同時，曹操還把并州的中下層匈奴人編入漢族。這樣，南匈奴上下完全編入曹魏政權(quán)，中國北方完成了實際的統(tǒng)一。

但該措施讓匈奴的很多下層人民淪為奴隸，因此魏晉時期，黃河流域出現(xiàn)了很多地區(qū)販賣匈奴人和其他雜胡為奴隸的事。以至“五胡十六國”時期，匈奴后裔劉淵利用這些下層奴隸的反抗情緒，建立了“后漢政權(quán)”。但在西晉時期，各族人民往往打破民族的界限聯(lián)合起來，共同反抗各族統(tǒng)治階級的壓迫和剝削。