先秦时代至汉初,大月氏人一直称雄天山南北,乃至蒙古高原。文献记载:“当是之时,东胡强而月氏盛,匈奴单于曰头曼。头曼不胜秦,北徙。”(详见〔汉〕司马迁:《史记》,中华书局,1984年,第2887页)。公元前2世纪初,匈奴在蒙古高原崛起。在冒顿单于的打击下,大月氏人从敦煌与天山之间草原地带西迁伊犁河、楚河流域,从而引发了中亚民族一系列大迁徙。
今甘肃祁连山和新疆阿尔金山一带的山脉,汉代统称“南山”。大月氏西迁时一些部落不肯离开原始故乡,归降了匈奴,史称“小月氏”。一部分月氏遗民亡命南山,与羌人逐渐融合,史称“南山羌”。汉武帝之所以在河西走廊至罗布泊一线筑长城,旨在隔绝匈奴与南山羌的联系。所谓“大月氏本行国”,意思是大月氏本来是游牧人,那么他们的原始故乡应在汉代南山(今甘肃祁连山)和敦煌以北的草原地带。
北大考古文博学院林梅村认为,匈奴右贤王在西域新开拓的疆土就是大月氏故地,北至阿尔泰山的呼揭,南达罗布泊东北的楼兰,西至天山中部的乌孙。大月氏在西迁途中,首先洗劫了乌孙部落,然后攻占伊犁河、楚河流域的塞人(希腊人称“斯基泰人”)的游牧之地。乌孙则向东迁徙,投靠蒙古高原的匈奴。汉武帝元光五年(前130),乌孙王昆莫猎骄靡为父报仇,在匈奴军臣单于的帮助下,击败大月氏人,将其从伊犁河流域驱赶到中亚阿姆河流域。此后,乌孙王在伊犁河的塞人故地建立了新的家园(详见余太山:《塞种史研究》,中国社会科学出版社,1992年,第135页)。