187年，东汉末年黄巾起义、董卓专权之际，南匈奴发生内讧，国人杀死单于羌渠，子左贤王於夫罗即位。而参与者恐被报复不认可新单于，另立一位单于，於夫罗只得前往汉朝申诉求助。正值汉末大乱，只好留在河东。195年，南匈奴参与了中原混战，东汉蔡邕之女蔡文姬被掳掠去匈奴。202年，南匈奴首领归附汉丞相曹操，蔡文姬归汉。216年，曹操拘留呼厨泉单于，而派右贤王去卑监国，并将南匈奴分成五部，安置在平阳郡，匈奴单于王朝终结。

汉化的南匈奴，一直居住在河套一带，三国时期曹操把匈奴分成五个部，即左、右、南、北、中，分别安置在陕西、山西、河北一带。各部贵者为帅，后改称都尉；以汉人为司马以监督。於夫罗子刘豹为左部帅。

东汉末年以来，周边各民族纷纷涌入中原。其中以匈奴人人数最多，史称关中人口百余万，戎狄居半，匈汉杂居。