罕东卫位于赤斤蒙古南部，靠近嘉峪关市西南地区，历史上曾属于汉敦煌郡。明朝洪武二十五年，由于凉国公蓝玉追击逃亡的敌寇祁者孙至罕东地区，导致当地居民大多迁徙。西宁三剌通过书信招揽他们，随后这些居民陆续归附。洪武三十年，酋长锁南吉剌思派遣使者向朝廷进贡，朱元璋因此设立罕东卫，并任命指挥佥事。

永乐元年，罕东卫的首领及其兄弟答力袭一同入朝觐见，晋升为指挥使，并被授予指挥同知职位，同时获得皇帝赐予的冠带和货币。此后，罕东卫多次向朝廷进贡。永乐十年，安定卫报告称罕东卫多次成为盗匪，劫掠了三百名平民并阻止西番进入关口。皇帝对此表示严厉谴责，并命令他们归还所掠夺的人口。永乐十六年，皇帝派宦官邓诚前往罕东卫。洪熙元年，皇帝派遣使者告知罕东卫的指挥同知绰儿加新皇登基的消息，并赠送白银和丝绸。当时，官军正在征讨曲先贼，罕东卫的指挥使却里加参与作战并表现出色，因此被提升为都指挥佥事，并获得了世代继承的权利。指挥那那上奏说，他所在的番民应缴纳差发马二百五十匹，但由于许多人逃到了赤斤，请求朝廷招抚并恢复生产。皇帝同意了他的请求，并免除他们所欠的马匹。宣德元年，因为跟随军队征讨曲先贼而有功，绰儿加被提拔为都指挥同知。最初，当军队讨伐曲先贼时，安定部和罕东卫的密罗族人都感到恐慌并逃离。事情平息后，皇帝下令指挥陈通等人前往招抚。最终，罕东卫恢复生产的家庭达到两千四百多个，人口总数超过一万七千三百人，安定部的人也回到了自己的卫所。

正统四年，罕东卫联合安定卫入侵西番申藏族，抢走了大量的马牛和其他牲畜。申藏族的僧侣向边境将领投诉，声称他们的牲畜资源已经耗尽，无法继续提供差发马。皇帝对这两个卫所进行了严厉的批评，指责他们违反国家法律，危害邻近地区。皇帝命令他们归还所掠夺的财物，并告诉僧侣们不必遵守以前的规定，可以根据自己拥有的物品随时入贡。次年冬天，绰儿加和他的同伴班麻思结一起入侵哈密市，抓获了一百多人以及数百头马、牛和羊。忠顺王派遣使者索取这些人质，但绰儿加拒绝交出。皇帝得知此事后，再次发出警告。然而，由于番人的本性就是抢劫，即使皇帝有所指示，也不能完全遵从。正统六年夏天，绰儿加前来进献马匹，皇帝设宴款待并送给他礼物。正统九年，绰儿加去世，他的儿子赏卜儿加接替了他的职务，并向上级官员请求提供斋粮和茶布，皇帝批准了他的请求。正统十一年，赏卜儿加被提升为都指挥使。

成化九年，吐鲁番市攻占了哈密市。都督李文率领军队西征，罕东卫派出士兵协助。后来，都督罕慎收复哈密时，也得到了罕东卫的帮助，皇帝为此颁发了奖励和表彰。成化十八年，罕东卫的部分人员掠夺了番族，甚至有人侵入了河清堡。都指挥梅琛带领军队追赶他们，夺回了五十余名男女和四千五百余头马牛及其他牲畜。边境大臣建议惩罚罕东卫，但部长们认为这样做不合适。皇帝表示，罕东卫目前正在接受调遣，帮助夺取哈密，没有背叛的行为，不应该因为小事就对他们动用武力。应该让他们悔过，如果不服从，就应该展示军事力量。成化二十二年，边境大臣报告说，他们派遣官员前往哈密市，途中经过罕东卫时，被都督把麻奔等人掠走，只有朝使幸存下来，请求朝廷讨伐。皇帝命令派人前往谈判，如果按照番人的惯例达成和平协议，那么就要归还所掠夺的物品，否则就会采取军事行动。

弘治年间，吐鲁番市重新占领了哈密。兵部尚书马文升提议直接攻打土鲁番的城市，并咨询了指挥杨翥的意见。杨翥建议利用罕东卫的捷径，可以在不到十天的时间内到达哈密，从而出其不意地进攻敌人。马文升采纳了他的意见，并将其交给巡抚许进执行。然而，由于罕东卫未能按时抵达，官军只能通过主要道路前进，让敌人得以逃脱。弘治十二年，罕东卫的人员侵犯了西宁隆奔族，掠夺了印诰和人畜。兵部请求皇帝下令都督，宣布其下属不得隐瞒所掠夺的物品，必须全部归还主人，否则都督可以自行讨伐，皇帝同意了这一请求。

此时，吐鲁番市势力日益强大，频繁侵略邻近地区，其他部族都无法抵抗。正德年间，蒙古大酋入侵青海省，罕东卫也因此遭受重创，人口数量显著减少。之后，土鲁番再次攻占哈密市，并直接威胁酒泉市。罕东卫再次遭到破坏，人们纷纷寻求内部迁移，城市也被放弃而不受保护。

嘉靖时期，总督王琼致力于安抚和整合各个部族，将罕东卫的都指挥枝丹部落迁移到甘州区。