1948年10月，在绥德后方司令部的基础上成立，隶属陕甘宁晋绥联防军区，后隶属西北军区。1949年5月，隶属陕北军区，12月隶属中国人民解放军第十九兵团兼陕西军区。这时分区辖榆林市、神木市、府谷县、定边县、靖边县、横山6个县的民兵大队。

1948年10月，在绥德后方司令部的基础上成立，隶属陕甘宁晋绥联防军区，后隶属西北军区。

1949年5月，隶属陕北军区，12月隶属第十九兵团兼陕西军区。这时分区辖榆林、神木、府谷、定边、靖边、横山6个县的民兵大队。

1950年5月，榆林军分区与西北军区独立第二师合并，称榆林军分区兼独立第二师。除原辖的6个县民兵大队外，增辖了步兵第四、第五团和骑兵营、警卫连等部（分）队，共4063人。机关设司令部、政治部、供给部、卫生部。这时县民兵大队改为武装科，次年3月改为武装部。6月，独立新疆生产建设兵团第二师番号撤销，供给部、卫生部合并为后勤部。

1952年7月，军分区司、政、后撤销，改设为7个科，

1954年7月又缩编为4个科，县人武部改称兵役局。11月，榆林专区公安大队和各县公安队归属军分区建制。

1955年7月，公安大队和公安队交由人民武装警察部队领导。

1956年10月，绥德县军分区撤销后，绥德、米脂县、佳县、吴堡县、子洲县、清涧县6个县兵役局划归榆林军分区建制。

1958年9月，县兵役局改为人民武装部。

12月，随着行政区划变更，12个县人民武装部合并为6个。

1959年6月16日，军分区机关增设司令部、政治部。

1961年9月，在地方行政区划调整中，恢复了横山、府谷县、吴堡、子洲、清涧、佳县6个县人民武装部。12月，军分区增设后勤处。

1966年7月，专区公安大队和12个县民警中队改归军分区和县人民武装部领导。

1971年1月，军分区后勤处改为后勤部。

1981年5月，机关撤销了科。

1982年1月又恢复了科。

1985年9月，又撤销了科。

1986年6月，根据中共中央、国务院、中央军委《关于县（市）人民武装部改归地方建制有关问题的通知》，将所辖榆林市、神木市、府谷县、定边县、靖边县、横山、绥德县、米脂县、佳县、吴堡县、子洲县、清涧县12个县人民武装部交归地方建制。

榆林军分区以强烈的事业心责任感，紧紧围绕部队建设需要选兵、定兵，有效地提高了新兵素质和质量。这个军分区有多个人武部先后被国防部、陕西省表彰为征兵工作先进单位，涌现出了郭鹏鸣等一批全国征兵工作先进个人