中国人民解放军第5军的前身是
新疆民族军。第5军在创建和发展过程中，坚持反对
中国国民党反动统治的武装斗争，牵制了国民党在新疆的军事力量。涌现出孜赫内拉。那的诺夫、阿不都拉提夫·库尔板诺夫等英雄模范，为新疆和平解放和边疆建设做出了贡献。
1944年9月2日，新疆北部
尼勒克县乌拉斯台地区人民为反抗国民党反动统治，争取政治民主，民族平等，举行武装暴动。不久，这场暴动发展到
伊犁哈萨克自治州、
塔城地区、
阿勒泰地区，亦称“三区革命”。1945年4
月8日，在
伊宁市以暴动队伍组成的游击队指挥部为基础，成立
新疆民族军。帕里诺夫任总指挥，
祖农·太也夫任副总指挥，玛加诺夫任参谋长，阿不部克里木·阿巴索夫任政治部主任，下辖8个团又4个营，共1.5万余人。7月，民族军主力向塔城、阿勒泰地区进军，尔后挺进
准噶尔汗国腹地。9月下旬，进抵
玛纳斯河西岸，与国民党军隔河对峙，威胁
乌鲁木齐市（今乌鲁木齐）。此时，民族军发展到13个团共3万余人。1946年6月，民族军按照三区
中华民国临时政府与国民党政府谈判签定的以和平方式解决武装冲突之条款（即“11项和平条款”）进行整编，部队减为6个团共1.3万余人。
1947年，国民党政府撕毁协议，武装进攻阿勒泰和
玛纳斯县地区，民族军奋起抗击，保卫了三区。从1948年起，民族军参照人民解放军的政治工作原则教育部队，官兵关系和军民关系得到改善。1949年10月，民族军为接应人民解放军入疆，自
玛纳斯河以西分别进至东疆和
南疆。12月上旬，一部到达
乌鲁木齐市，与第一野战军第1兵团会师。
根据中央军委命令，1950年1月10日，民族军在
伊宁市改编为中国人民解放军第5军，法铁依·伊凡诺维奇·列斯肯任军长，顿星云任政治委员，马尔果夫·伊斯哈科夫任副军长兼参谋长，曹达诺夫·扎伊尔任副政治委员，努利耶夫任政治部主任，辖第13师，买买提伊敏·伊敏诺夫任师长，马洪山任政治委员，第14师，阿里木坚诺夫·乌拉拜音任师长，胡正任政治委员。另直辖2个骑兵团，共1.3万余人，归
中国人民解放军第一野战军暨
西北军区建制。为了加强对这支民族军的领导，第一野战军领导决定从第1兵团抽调一批优秀的共产党员、政工干部到第5军工作，在该军迅速建立党的组织和政治工作制度，使这支民族军成为在中国共产党绝对领导下的一支人民军队。1950年
中华人民共和国国庆节，中国人民解放军总部特邀第5军组织参观团到北京参加国庆大典，在北京受到毛泽东主席、朱德总司令、刘少奇、周恩来等中央领导的接见。接着又在北京、
天津市等地参观学习，使参观团成员开阔了眼界，感受到了祖国大家庭的温暖，增强了保卫边疆，建设边疆的信心。第5军组建后，即担负起“劳武结合，屯垦戍边”的光荣任务，全军指战员以饱满的热情投入大生产运动，并以一部兵力配合第6军请剿武装土匪。1952年3月，由第2、第6军抽调部队组建第15师，
冯祖武任师长，贺劲南任政治委员。1953年5月，由第13师组建喀什军分区，第14、第15师改编为农建第3、第4师。1954年10月，第5军军部改编为
伊犁哈萨克自治州军区（后改为伊犁军区），第5军番号即予撤销。