1947年9月21日，
陕甘宁晋绥联防军决定，以所属警备第1、第3旅和骑兵第6师（实为步兵师）共1.1万余人，在
陕西省_邑（今旬邑）县组成西北野战军第4纵队。王世泰任司令员，张仲良任政治委员，阎要任副司令员兼参谋长，李宗贵任政治部主任。后孙超群任副司令员，朱辉照任副政治委员，张文舟任参谋长。纵队组成后，即会同第2纵队出击黄龙山区，攻克
白水县、
韩城市、
宜川县等地。11月北上，向三边挺进，连克宁条梁、安边等地。12月转至
安塞区华子坪、侯家河湾一带进行新式整军。
1948年2月，在宜川战役中，参加
瓦子街镇地区打援。4月中旬～5月中旬参加
西府陇东战役，先在
扶风县至
青化镇一线抗击西援
宝鸡市的国民党军裴昌会兵团和在
镇原县以东屯子镇地区接应第6纵队教导旅突围，而后担负掩护
中国人民解放军第一野战军主力向东转移的任务。5月下旬，第4纵队转至_邑县土桥地区整训。8～11月，先后参加澄_、
荔北战役和冬季战役。1949年1月，陕甘宁晋绥联防军区所属警备第4旅拨归第4纵队建制。2月1日，根据中央军委1948年11月1日关于统一全军编制及部队番号的命令，西北野战军第4纵队改称中国人民解放军第4军，隶属第一野战军。王世泰任军长（后张达志），张仲良任政治委员（后高锦纯），孙超群任副军长，朱辉照任副政治委员兼政治部主任（后李宗贵任政治部主任），张文舟任参谋长（后姚知一）。警备第1旅和骑兵第6师一部，警备第3旅、警备第4旅和骑兵第6师一部，依次改编成第10、第11、第12师，共1.9万余人。部队整编后，先后参加
西北春季战役和陕中战役。6月中旬，第4军编入第2兵团，后在关头、仪井、临平及
泾阳县以北地区抗击国民党军向
西安市的反扑。7月中旬参加扶_战役，担任截断国民党军退路的任务，保障野战军主力聚歼其4个军。接着乘胜西进，攻克
蔡家坡镇、
岐山县、
宝鸡市等城镇。下旬由宝鸡地区出发，向
兰州市挺进。8月21日参加
兰州战役，25日攻占兰州外围沈家岭、
狗娃山，26日拂晓攻入兰州城西关，对战役的胜利起了重要作用。9月初，第12师留驻兰州，担负警备任务；军主力西进
河西走廊，19日进驻
武威市。10月，第4军移驻
临洮县、
临夏回族自治州地区执行剿匪任务，并抽调部队参加修筑天（水）兰（州）铁路。1952年9月，第4军番号撤销，军部改编为中央军委城防高射炮兵学校，第10师师部改编为炮兵第10师师部，其部队编入第11师，第12师改编为铁路公安部队。