武王伐纣之后，西戎卢方和西迁泾渭流域的彭人部落逐渐融合成为彭卢戎，活动于现在的甘肃东部和宁夏南部。彭人部落源自大彭氏国，大彭氏国位于徐州，是夏商时代的诸侯，曾经称霸一时，后被商朝中兴之主武丁灭国。大彭氏国亡国后，部分彭人投奔商朝的敌国西戎，在泾渭流域定居下来，与周人、卢人毗邻，并加入周人的灭商战争，对此《尚书牧誓》有生动的描写。彭人、卢人除了在泾渭流域的彭卢戎外，还有随周人东迁内地的，被周王朝封为子爵之国，称为彭国、卢国，但都在春秋时期亡于楚国。

　　留居西戎故地的彭卢戎则在春秋时期为义渠戎国所灭。当义渠戎国在公元前272年亡于秦国后，彭卢戎的遗民开始受到华夏族的影响，成为半戎半夏的宗族，不少人改用汉姓，彭姓是其中之一。秦汉以来，彭卢戎的遗民广泛吸收其他部族的加入，比如匈奴、月氏、赀虏、杂胡、秦胡、羯族、氐羌乃至汉族等等，并最终以“卢水胡”这一民族共同体的形象登上了历史舞台。

　　随着卢水胡被中央政权征调到其它地区，其活动区域从陕甘宁交界处的泾渭流域逐渐扩大到甘肃河西走廊、青海河湟谷地一带，泾渭流域的安定卢水胡是其本部，河湟谷地的湟中卢水胡以及河西走廊的临松卢水胡则是其迁徙后的别部，2006年青海出土的“安定左佰长”铜印就是这段迁徙历史的明证 。
　　从东汉开始，卢水胡作为雇佣军曾多次出征西域和匈奴，镇压各地起义，是汉代河西士兵的重要来源。卢水胡雇佣军中也有因军功被汉族朝廷启用，而彻底汉化的。这群生活在祖国西北的族群在活跃了四、五百年之后于南北朝时期渐渐与其他民族一道融入了汉族之中。
　　（二）、建立北凉
　　北凉是十六国时期京兆汉族人段业建立的。段业生年及身世不详，虽为北凉的开国之君，但史书中没有传记。在《晋书北凉载记沮渠蒙逊传》所附《段业》中，只记述了段业：从小“博涉史传，有尺牍之才，为杜进（前秦将军，随吕光征西域）之记室，从征塞表，儒素长者”。但他“素无权略，威禁不行，群下擅命；尤信卜筮、谶记、巫觋、征祥，故为奸佞所误”的之言片语。杜进随吕光征西域时，段业也随同前往。后被吕光发现，调到元帅大营升授他为“著作郎”，以后，吕光的文件、告示，皆出自段业之手。386年，吕光建后凉称帝后，段业历任尚书、建康（今甘肃高台）太守。397年2月，吕光因西秦乞伏乾归出尔反尔，数度叛离，决定出兵消灭他。吕光派他的庶长子、太原公吕篡攻克金城（今甘肃兰州），弟弟天水公吕延带着大将、沮渠部落酋长沮渠罗仇、沮渠麹粥兄弟攻克临洮、武始、河关，后因吕延麻痹轻敌，兵败被杀，凉军被迫撤退。吕光埋怨沮渠罗仇、沮渠麹粥护卫不力，以败军之罪杀了沮渠罗仇、沮渠麹粥二兄弟。

　　沮渠部是匈奴的一支，其先祖世为匈奴左沮渠王，他们以部落为姓。东汉时，因初居卢水（今青海西宁）一带，又称卢水胡。三国时向南扩展到今四川北部，一部分则居于今甘肃武威附近，原以游牧为业，后部分改为农耕。385年，吕光征西域班师回朝途中，沮渠罗仇归附了后凉，被吕光任命为西平太守，建忠将军、尚书。沮渠麹粥被命为三河太守。沮渠罗仇被杀后，沮渠罗仇的侄儿，时任沮渠部落酋长，在当时后凉建康太守段业部下为将的沮渠蒙逊，在二位伯父的灵柩运回故乡临松（今甘肃肃南县）安葬之日，乡亲好友与诸部落一万多人参加，沮渠蒙逊当众大哭道：“吕王昏耄，荒虐无道，岂可不上继先祖安时之志，使二父怀恨黄泉”？在场众亲友听了，无不痛恨吕光。于是，沮渠蒙逊与众盟誓，共讨吕光。一旬之间，就有一万多人前来投奔。从此，沮渠蒙逊起家，他率领队伍左冲右突攻陷临松，斩杀了吕光的中田护军马邃和临松令井祥，屯兵于金山。沮渠蒙逊的堂兄，时任后凉晋昌太守的沮渠男成也起兵响应。率部进军建康，劝说建康太守段业起兵反凉。段业素与吕光的尚书王祥、侍中房咎等权臣不睦，这次出任建康太守就是被他们所排挤，段业怕以后被他们所害，于是同意举旗起义。沮渠蒙逊知道后，也由临松率部来归，与段业，沮渠南成和兵一处，兵力大大加强。因为沮渠男成、沮渠蒙逊年纪尚轻、职爵也低，于是二人共推段业为盟主。397年5月，段业自称大都督、龙骧大将军、凉州牧、建康公，建元神玺，建都骆驼城（今甘肃高台县南22公里处）。399年2月，段业改称凉王，迁都骆驼城（今甘肃张掖西北十五公里处），改元天玺。因张掖在河西四郡之北，故史称北凉。

　　（三）、政权更迭
　　段业称王后，任沮渠蒙逊为张掖太守、临池公、尚书左丞；任沮渠南成为辅国将军，负责军国大事。段业同沮渠蒙逊虽然是君臣关系，但沮渠蒙逊并不买段业的帐，因为北凉的军政大权都掌握在沮渠蒙逊兄弟手中。这样，段业当然很不满意，于是他们君臣之间貌合神离，同床异梦。因为沮渠蒙逊感到夺取北凉政权的时机还不成熟，又怕遭到段业的暗算。401年，沮渠蒙逊主动要求去安西当（今甘肃敦煌东北）太守，以等待时机。段业觉得沮渠蒙逊离开张掖再好不过，于是十分痛快的答应了他的要求。离开张掖前，沮渠蒙逊绞尽脑汁地想出一个极其阴险的夺权方案。五月的一天，沮渠蒙逊向沮渠男成告别，并约好时间一同去兰门山祭祖，然后，派自己的亲信许咸密报段业，说沮渠南成准备借祭山之机发动叛乱。过了几天，沮渠男成果然向段业禀报说，要与兄弟到兰门山祭祖，途中被段业预先埋伏好的士兵捕杀。沮渠男成一死，沮渠蒙逊泣不成声的对部下说：“男成对北凉无限忠诚，如果没有男成，段业能有今天的基业吗？可段业却无辜把他杀害，难道诸位就不能为他报仇吗？况且凉州现在兵荒马乱，段业能收拾这个烂摊子吗”？沮渠男成平时很得人心，诸部将都愿意为他报仇。所以，沮渠蒙逊很快就拉起了一支一万多人的队伍，起兵攻打段业，附近的羌、胡也纷纷响应，段业身边的兵将也大都投降了沮渠蒙逊。沮渠蒙逊很快就攻下了张掖城，抓住了段业。段业对沮渠蒙逊哀求说：“我现在孤身一人，希望你给我留条活路，让我回家同妻子团聚”。沮渠蒙逊不容分说，马上下令让士兵杀死了段业。段业自开国到被杀共在位四年。

　　（四）、韬光养晦
　　段业死后，沮渠蒙逊的部将梁中庸等人，推举沮渠蒙逊为大都督、大将军、凉州牧、张掖公，改元永安。即位之初，沮渠蒙逊感到国力不够强大，比较注意同周围邻国建立和睦关系，以避免争端。即位当年，沮渠蒙逊就称藩于后秦，被姚兴任命为河州刺史，封西海候。沮渠蒙逊还把儿子沮渠奚念送到南凉作人质，以求和平。但南凉国主秃发利鹿孤以奚念年龄太小为借口，故意刁难，指名要沮渠蒙逊的弟弟、沮渠蒙逊的得力助手，时任建忠将军、都谷侯沮渠挐为人质，沮渠蒙逊被迫答应，但对南凉一直耿耿于怀。