新四军第二师是抗日战争时期在淮南市地区坚持抗日斗争的新四军主力部队。该师的前身是由中国工农红军第二十五军长征后，原红28军政委高敬亭收集散剩人员在大别山开展斗争而组建的队伍。由于环境所限，该队长期脱离了党的领导。1937年“七七事变”后，郑位三、肖望东、张体学、程启文四位同志赴大别山，和高敬亭接上了线，于1938年初将这支队伍改编为新四军四支队。1941年2月，该队伍再次改编为新四军第二师。该师在淮南地区开展了艰苦卓绝的斗争，成为新四军的主力部队之一。

由原红28军政委高敬亭收集散剩人员在大别山开展了艰苦卓绝的斗争

1938年初，改编为新四军四支队。

1938年3月，开赴皖中地区抗日前线；9月，四支队会合了刘冲带领的东北抗日挺进团和张恺帆、冯文华带领的巢县抗日游击大队；10月，开辟了淮南抗日根据地，动员高敬亭东进，组建了江北游击纵队。

1939年5月，成立新四军江北指挥部，副军长张云逸兼指挥；6月24日，高敬亭在肥东青龙厂被错杀；7月，四支队分设四、五两个支队。

四支队由徐海东任司令，戴季英任政委，张树才任政治部主任。下有七、九、十四、三个团，活动在定远县的藕塘镇地区。

五支队由原四支队八团、东北地区军人组成的挺进团和第三游击纵队组成。罗炳辉任司令，郭述申任政委。下有八、十、十五、三个团，活动在半塔集一带。（陈庆先为八团政委）

另有江北游击总队，由孙仲德任司令，黄岩任政委。下有三个大队，活动在无为市、肥东县等地。

1939年8月，刘少奇化名胡服到江北指挥部，扩军、建立根据地。

1940年1月，成立路东、路西两地委。

1940年3月，创立淮南抗日根据地（新四军二师）

1941年2月，改编为新四军二师（见照片： 1942年，陈毅代军长在淮南市与第二、第四师部分干部合影。左起：张树才，新四军第二师四旅政治部主任、刘顺元，新四军淮南津浦路东联防司令部政治委员、方毅，新四军津浦路东联防办事处主任、张爱萍新四军苏北军区司令员，后任新四军四师师长、张云逸，新四军第二师师长、陈沂，新四军代军长、宋文，新四军第二师五旅14团团长、罗炳辉，新四军第二师副师长、杨梅生，新四军淮南津浦路东联防司令部司令员、龙潜，新四军第二师锄奸部部长、周骏鸣，新四军第二师参谋长）。

四旅由四支队改编，辖十、十一、十二团；

五旅由五支队改编，辖十三、十四、十五团；

六旅由江北游击纵队改编，辖十六、十七、十八团；

路西联防司令部，辖独立1、2、5团；司令郑抱真、政委谭光廷，参谋长李国厚，年底陈庆先任副司令。

路东联防司令部，辖独立3、4团。

一九四三年二月实行军地一元化，成立淮南区党委、淮南行政公署、淮南军区。

谭震林为区党委书记、二师和军区政委；

刘顺元为区党委副书记、

方毅为行署主任；

罗炳辉为二师师长兼军区司令；

韩振纪任参谋长；詹化雨任副参谋长；

肖望东任政治部主任；余立金任副主任。

下属路西、路东两个地委、两个公署、两个军分区分别由五旅和六旅兼任。

路东军分区司令由五旅旅长成钧兼任，地委书记和军分区政委 由五旅政委赵启民兼任，公署专员汪道涵。

路西地委书记、军分区司令、政委由六旅旅长谭希林兼任，公署专员郑抱真。

同年九月六旅建制撤销，四旅兼路东，五旅兼路西。

一九四四年十二月，五旅准备渡江南进，重建六旅并兼路西军分区。旅长兼司令陈庆先；政委黄岩；副司令兼参谋长饶守坤；政治部主任汪少川。

一九四五年八月形势急剧转折，为迫使日寇投降，接受日伪占领地，路东部队组成淮南独立旅。旅长罗占云，政委李世炎，副旅长兼参谋长谭知耕，政治部主任王敬群。

四旅向滁州市、全椒县进击；

五旅向蚌埠市、进击；

六旅向淮南铁路沿线进击；

独立旅向长江北岸进击。

进击取得了重大胜利。在中国国民党不断进犯下，党中央九月十九日决定“向北发展，向南防御”。山东省主力调赴东北地区，新四军主力调赴山东。二师师部和四旅、五旅于十月由罗炳辉师长率领，北上鲁南，与四师九旅合编为第二纵队，司令员罗炳辉，副司令员韦国清，参谋长詹化雨。在津浦铁路中段作战。年底，罗炳辉病逝。

主力北上后淮南地区重新组建。一九四五年十二月，周骏鸣任军区司令，肖望东任区党委书记兼政委，梁从学任副司令兼参谋长，余立金任政治部主任，朱云廉任副参谋长，胡弼亮任供给部长，阮汉清任卫生部长。下辖：六旅、独立旅和华中第三（路东）、第四（路西）两个军分区。

一九四六年一月津浦前线野战军第二纵队改称山东野战军第二纵队。司令员韦国清，政委赵启民，参谋长詹化雨，政治部旅途邓逸凡。

六月全面内战爆发。七月，为反击中国国民党对路东地区的进攻五旅回师淮南组成新二师，师长周骏鸣，政委肖望东，副师长成钧，副政委赵启民，副师长兼参谋长梁从学，副参谋长朱云谦，政治部主任余立金，下辖五旅、六旅、独立旅、特务营和路东、路西两个军分区共3万人。七月底奉华中军区电示，除留少数部队外，分别转到苏中、淮宝地区作战。

八年抗战，在淮南市开创了拥有330万人口，3万平方公里的解放区，建立了17个县的抗日民主政权，主力部队从3100人发展到4个旅11个团共35000人。地方部队15000人，地方武装200000人。调给七师1个百将团，抽调了1个旅的各级干部到东北地区工作。

在涌现大批英雄人物的同时也会出了很大的代价，共伤亡2万余人，其中先后牺牲和病故的县团以上干部就有高敬亭、文明地、徐庚、桂蓬洲、田丰、曾昭铭、刘树藩、王纪正、方和平、郑行郯、林英坚、程式、汪立斌、余海青、陈世新、王枫、吴师孟、浦风、汪心泰、王风岐、陈宗胜、李秉初、童汉章、陈之道、许言希、郑维发、朱茂绪、徐康明、刘述叙、许午阳、何于庆、王福生、桂本奎、梁明伦、王胜凯、彭济五、周传学、黄保福等同志，他们用血汗和生命谱写了光辉的史章。

1941年1月皖南事变后，根据中共中央军委的命令，活动于淮河以南、长江以北、津浦铁路（天津市―浦口区）两侧地区的新四军江北指挥部及其所属部队编为新四军第2师。第4、第5支队改称第4、第5旅；江北游击纵队与地方武装一部合编为第6旅，同时组建津浦路东、路西联防司令部。新四军副军长张云逸兼任第2师师长，郑位三任政治委员（后谭震林），罗炳辉任副师长（后任师长），周骏鸣任参谋长（后韩振纪），郭述申任政治部主任（未到职，后萧望东）。全师共1.8万余人。3月，第2师在淮南津浦路西进行反“扫荡”作战，击退日伪军7000余人的进攻，恢复了路西抗日根据地的中心区。4月，第2师主力一部在津浦路东天长、仪征市、扬州市地区向日伪军发起攻击，在六合县金牛山战斗中，歼灭日伪军500余人。5月初，江北指挥部军政干部学校扩编为中国人民抗日军事政治大学第八分校，归第2师建制。5～6月，粉碎日伪军5000余人的“扫荡”，第5旅参加了巩固、发展皖东北根据地的斗争。10～11月，第2师攻克安徽省明光市石坝等日伪军据点，并参加泗阳县陈道口自卫反击作战，接着又在安徽省定远县大桥地区击退中国国民党顽军的进攻。1942年2月，第2师实行精兵简政，将主力9个团缩编为6个团（每旅辖2个团），同时缩编机关，充实连队，全师共1.2万余人。此后，由于日伪军的频繁“扫荡”及国民党顽军的不断进攻，加上严重的自然灾害，淮南军民处境十分艰难。第2师为战胜严重困难，一面坚持对敌斗争，一面开展大生产和整风运动，坚持和巩固淮南抗日阵地。11月，津浦路西军民在定远地区粉碎了日伪军2000余人的大“扫荡”，第5旅一度袭入淮阴城。1943年2月，第2师兼淮南军区。津浦路东、路西联防司令部改为路东、路西军分区，分别由第5、第6旅兼。8月，第5旅一部在六合县东北桂子山战斗中，给日伪军以迎头痛击，粉碎了日伪军的抢粮企图。9月，第6旅第16团调归第7师建制，第6旅番号撤销，该旅第17团改为第15团，编入第5旅。路西军分区改由第5旅兼，路东军分区由第4旅兼。第2师经过反“蚕食”、反伪化斗争，发展到扬州市以西甘泉地区，打通了与苏中第1师的联系，有效地保卫了淮南抗日阵地。1944年，第2师连续向日伪军发动攻势作战，相继攻克来安县雷官集、六合县瓜埠镇、凤阳县殷家涧等据点，袭入盱眙县、定远县城，粉碎日伪军两度对津浦路西根据地的“扫荡”，并在六合县程驾桥附近设伏，歼灭日伪军200余人。11月，粉碎日伪军7000余人对路西抗日根据地中心区的“扫荡”，又在定远西南占鸡岗（今站岗）反击中国国民党顽军的进攻中获胜。12月，以津浦路西地方武装重组第6旅，并兼路西军分区。第5旅执行机动作战任务。1945年2月，歼灭进犯高邮湖以西地区的日伪军800余人，挫败了其打通淮河交通线的企图。4月，第2师与第3、第7师各一部进行自卫反击战，在定远县以南黄庙等地区歼灭国民党顽军3900余人。8月中旬，第2师在人民群众支援下，向淮南津浦铁路沿线的日伪军展开全面反攻，先后收复定远、盱眙县、来安县、明光市、天长市、六合等县城及广大地区，并争取了伪军警卫第3师3000余人反正。8月19日，新四军军部决定将津浦路东地方武装组编为淮南独立旅，归第2师建制。9月，第2师第6旅、独立旅留淮南，师部率第4、第5旅北调鲁南，后与第4师第9旅组成山东野战军第2纵队。新四军第2师在抗日战争中，共歼日伪军2万余人。到全面反攻前，主力部队发展至3.3万余人，组建地方武装1.1万余人。