明洪武元年（年），明军攻入大都，元朝灭亡。元顺帝北逃至上都开平，史称北元。元顺帝虽然远居漠北，但仍然控制着东自大兴安岭，西至天山，北起额尔齐斯河及叶尼塞河上游，南达长城一线的广阔区域。尤其是在陕西、甘肃一带驻防的王保保拥有十八万人马，有着相当强大的势力。
明朝建立后，一方面获得了蒙元广阔的疆域，另一方面在这一广阔疆域的内部，还存在着大量与中央、区域行政中心的关系非常疏离的“地理缝隙”。明朝便以不同于府州县的卫所、土司等管理系统，加强对这些地理缝隙的控驭。
一、洪武初年河西羁縻卫的设置
洪武四年（年）春正月，为安置前来归附的前元势力，明朝“置武靖、岐山、高昌三卫指挥使司，以卜剌纳为武靖卫指挥同知，桑加朵儿只为高昌卫指挥同知”。武靖卫以河州故元镇西武靖王部置，岐山卫以湟水流域的故元岐王部置，高昌卫则是以河西地区故元高昌王部置。高昌卫的设置是明朝在河西地区设立管理体制的开始。
洪武五年（年）十一月，在冯胜扫荡河西的过程中，明朝在今张掖、永登，“置甘肃卫都指挥使司，庄浪卫指挥使司”。洪武七年（年）春正月，为招抚前元岐王朵儿只班部，“置岐宁卫指挥使司，以故元平章答立麻国公买的为指挥同知，枢密院判官古巴平章着实加亦怜直为指挥佥事”。
同年十月，为安置降附的故元知院脱林部，明朝又在今武威，置凉州卫指挥使司，以脱林为凉州卫指挥佥事。这一时期，明朝限于军力，在河西地区很难略地驻守。在河西、河湟地区最初设置的甘肃卫、凉州卫、岐宁卫，都是为安置故元势力所置的羁縻卫所。这些卫所的实际事务仍由前元势力主导。
为真正控制这些卫所，明朝在这些羁縻卫所设置之初便选派专人作为朝廷的耳目，担任经历、知事等掌管卫所文移的属官。明初“内外诸卫设经历一人，从七品；知事一人，从八品”。经历、知事均为不入流的低级官员。但明初对甘肃卫、岐宁卫、西凉卫的经历、知事的选派却极为重视。
明朝选派至甘肃等卫担任经历、知事的官员，往往都是经过朝廷精挑细选的老成历事之人。例如曾担任岐宁卫经历的熊鼎，在元末中举人，为江西名士。朱元璋入主江西后，邓愈向朱元璋引荐熊鼎。朱元璋面见熊鼎后，大为欣喜，欲委任熊鼎为官员。但熊鼎以父母年迈为理由而推辞，只愿留在邓愈幕府中参赞军事。
熊鼎母亲去后，守孝期满，即被召至京师，授德清县丞。朱元璋建立政权后，熊鼎又任中书考功博士，负责建立朝廷礼仪，参与编撰《起居注》。洪武元年（年）后，又历任浙江按察司佥事、山东按察司佥事、山东按察司副使、刑部主事等职，享有赏罚分明，清正廉洁的美誉。
从履历上看，熊鼎是早在朱元璋建立政权之前即参加起义军的元老，又拥有丰富从政经历，是难得一见的能吏。又如曾担任甘肃卫经历的沈立本，在洪武九年（年）冬天十月升为户部侍郎，洪武十年（年）五月升户部尚书，洪武十一年（年）六月改任刑部侍郎，洪武十一年（年）十二月升刑部尚书。
明初为鼓励基层吏员尽职工作，明廷会破格提拔出色的下级官员，但沈立本能以从七品的低级文职直升至正四品的户部侍郎，并多次升迁，显然不是常规的人事变迁。明朝选用沈立本担任甘肃卫经历应属于“高职低配”，足见明朝对甘肃卫经历一职的重视。
洪武九年（年），明太祖在对岐宁卫经历熊鼎、知事杜寅、西凉卫经历蔡秉彝、甘肃卫经历张呐等人的诏书中，指明了在西北羁縻卫所任职的文官所要承担的任务。除了基本的文书工作外，他们在河西地区诸羁縻卫所的实际职责是探取情报，增强明朝对诸卫所的控制。熊鼎等人经过实地的考察，认识到这些蒙古降卫并非真心归附。
并提出了对待诸羁縻卫所的策略，正如熊鼎所言，岐宁卫的前元岐王朵儿只班叛服无常，并非真心归附。洪武九年（年），朵儿只班再次叛变，并在打班驿杀害还朝途中的经历熊鼎、知事杜寅，以及明太祖派来召回熊鼎的中使赵成。朵儿只班等人在西北的反复无常，使得明朝决心对河西的蒙古卫，由羁縻安抚转向实际军事控制。
二、洪武九年后明朝对河西地区军事控制的加强
洪武九年（年），明朝在河西东端，“置凉州卫，遣指挥佥事赵祥、马异、孙麟、庄德等守之”。而洪武七年（年）为安置前元脱林部所设的凉州卫，则被《明史·地理志》称为凉州土卫。由明朝直接控制的凉州卫的设立，随即宣告了羁縻性质的凉州土卫的裁撤，也意味着明朝对凉州的经营策略由羁縻安抚转为实际控制。
此后宋晟、濮英等威震西北的名将陆续出镇凉州，凉州卫逐渐成为了明军在河西地区的军事基地。洪武十三年（年），大都督府佥事濮英练兵西凉，掀起了明军在河西地区自洪武五年之后，首次较大规模的军事活动。洪武十三年（年）四月，濮英率军奇袭并俘虏了故元柳城王等二十二人，及其部属一千三百余人，获马二千余匹。
并上书请求率军西进，开哈梅里（今新疆哈密）之路，以通商旅。在得到朱元璋的同意后，濮英率军西进至白城（今金塔县附近），俘获故元年章忽都帖木儿。五月进军至赤斤站（今玉门市西北20里），获故元豳王亦怜真及其部属一千四百人。
七月又进军至苦峪（今瓜州县东南），俘获故元省哥失里王阿者失里王之母妻及其家属，斩部下阿哈、撒答等八十余人。最终还兵肃州。洪武十七年（年），凉州卫指挥使宋晟率军至亦集乃路（今内蒙古额济纳），擒获故元海道千户也先帖木儿、国公吴伯都剌赤、平章阿来等，及其部属一万八千七百余人。
濮英和宋晟在河西的一系列军事活动，深入到了河西地区最西端，兵锋直指哈密。虽然其攻占的土地在大军撤走后，大多复为蒙古部落所据，但给予了盘踞在河西的前元势力一个沉重的打击。经过濮英和宋晟的军事打击，故元势力逐渐萎缩。同时随着洪武十五年（年）明军平定云南。
洪武二十年（年）收复辽东，明朝得以将精力转移到对西北地区的经略上。洪武十五年（年），明朝在地处凉州北进甘州大道上的永昌置卫。洪武二十三年（年）九月，以故元山丹州地置山丹卫，“调凉州卫左等三所并武功屯田官军，各卫多余军士，设立左、右、中、前、后五所”。
洪武二十三年（年）十二月，废除了带有羁糜性质的甘肃卫，置甘州左卫。洪武二十五（年）年前后，又在甘州置甘州前、后、中、右等卫。洪武二十七年（年），改甘州左卫为肃州卫，即将甘州左卫军士移往肃州戍守，同时又置甘州中中卫。
洪武二十八年（年）六月，又改甘州中中卫为甘州左卫，以成五卫之数。洪武二十九年（年），在凉州西北部的石羊河下游地区置临河卫。洪武三十年（年），又改临河卫为镇番卫（今民勤县）。
三、甘州地位的上升
在河西地区广设卫所的同时，为了进一步巩固和加强河西地区的统治，明朝将河西地区的镇戍中心由凉州西移至甘州。甘州地处河西走廊中段，“其地东有武威，西有酒泉，南有祁连之阻，北有合黎之环。南北相距，仅可百里，如筑甫道，中通一线，通调道而接声援耳”。
从战略地位上看，将甘州作为镇戍中心，可以控驭周边的凉州、肃州、西宁。同时土地肥沃、灌溉充足等优渥的自然条件，也使得甘州平原更有利于明军的大规模屯守。明朝为提升和巩固甘州作为河西地区镇戍中心的地位，洪武二十六年（年），移陕西行都指挥使司至甘州。
陕西行都司前身为洪武七年（年）明朝设于河州的西安行都指挥使司，总辖河州、朵甘、乌斯藏三卫。洪武八年（年），明朝对全国范围内的军事卫所重新命名，西安行都指挥使司改称陕西行都指挥使司。洪武九年（年），洮岷地区的局势趋于缓和，吐蕃诸部羁縻之势已成。
明军在西北的战略目标主要转向了青海和河西地区，陕西行都司即被罢撤。洪武十二年（年），为开拓青海、河西地区，明朝复置陕西行都司于庄浪。但庄浪时期的陕西行都司几乎不见于史籍的记载。梁志胜以陕西行都司西迁甘州后方，添置经历、断事二司为据，推断庄浪时期陕西行都司为虚置机构。
马顺平则认为庄浪时期的陕西行都司的存在是肯定的，他指出：“洪武初期经略西北设置行都司有因事而立、机构不健全的特征，并且多以大将镇守、专征，此种特征在庄浪时期的陕西行都司亦不失其效。”笔者认为在兵连祸结，统治秩序尚未稳定的情况下，明朝在西北地区的军政建置尚处于完善阶段。
如果仅因史料的缺失，或机构不健全就认定庄浪时期的陕西行都司为虚置机构，稍显武断。马顺平的推论应更接近历史的真相。陕西行都司迁至甘州后，明朝就开始通过增设机构和频繁的补充官员，来加强陕西行都司的机构建设。洪武二十六年（年）二月，置陕西行都指挥使司所属经历、断事二司。
两个月后，明朝“命右军都督府都督佥事宋晟、刘真同署陕西行都指挥使司事”。洪武二十七年（年）四月，“以尚宝司丞杨能为都指挥使，洮州卫指挥使陈晖、宋国公冯胜子克让为都指挥同知，俱署陕西行都指挥使司事”。半年后，“以府军卫指挥佥事张豫为陕西行都指挥使司都指挥佥事”。
洪武二十七年（年）十一月，“以署陕西行都指挥使司都指挥同知冯克让为都指挥使，绥德卫指挥佥事马溥为陕西行都指挥使司都指挥同知”。洪武二十八年（年）三月，任命石玉为陕西行都指挥使司都指挥佥事。一个月后，又以王英为陕西行都指挥使司都指挥同知。
在陕西行都司移至甘州的同时，洪武二十五年（年）三月，明太祖改封第十四子汉王朱楧为肃王，镇守甘州。宗藩制度是洪武时期国家政治制度的重要组成部分。朱元璋认为：“天下之大，必建藩屏，上卫国家，下安生民，今诸子既长，宜各有爵封，分镇诸国。朕非私其亲，乃遵古先哲王之制，为久安长治之计。”。
简而言之，在朱元璋看来分封皇室子孙控驭各地，有助于防止外姓臣僚跋扈，可以起到“外卫边陲，内资夹辅”的效果。在洪武年间，就有十九位皇子出镇各地。这些藩王虽然在地方不领有封地和臣民，但享有极为极为尊贵的地位。在洪武二十五年（年），明太祖改封汉王楧为肃王前后，就下令在甘州为其修建驻地。
并置甘州中护卫、甘州左护卫、甘州右护卫。洪武二十八年（年）六月，肃王就藩时朱元璋下诏：“惟陕西行都司甘州五卫及肃州、山甘、永昌、西宁、凉州诸卫从肃王理之。”。
可见作为塞王之一的肃王，除了直接掌握护卫军外，对都司、卫所还具有节制权，在河西、河湟地区的权力格局中具有名义上的最高地位，同时还代表皇权对掌握军政实际大权的总兵官宋晟等人，起到监督与制衡的作用。
四、总结
除了上述内容之外，在洪武二十九年（年）至洪武三十一年（年）间，明朝还在肃州卫东北百余里的讨赖河北岸置威虏卫、白城子千户所；在肃州卫东北方向三百八十里，讨赖河与黑河汇合北流不远处置威远千户所；在甘州西北方向三百里，黑河北折流向沙漠之处置镇夷守御千户所（今高台县）。
明朝通过移住陕西行都司至甘州，以及派遣肃王朱楧镇守甘州等措施，加强了甘州作为河西、河湟地区政治中心的地位。同时也促使了陕西行都司由临时性前沿指挥机构，转变成了有着实际管辖地域的镇戍机构。