“五胡”并非趁着前述西晋末年的混乱才入侵华北地区的他们从东汉到三国时期起就开始通过迁移和入侵，加深了与中原的接触。
其中的先驱是匈奴。东汉初期内附于中原的匈奴，在曹魏时代居住在陕西北部至山西中部一带，西晋时期迁到山西汾水流域定居，也有不少人受汉人役使从事农耕生活。羯也被看做匈奴的一个分支，在山西居住，与匈奴的情况相似。鲜卑当时分为慕容、宇文、段、拓跋等各个部落，居住地分布在辽河上游到河北、山西北部。氏族、羌族从东汉末年以来，也来到陕西、甘肃地区定居。