1940年7月由新四军第2团、新6团和挺进纵队一部编成。第2团团长段焕竞，政治委员郭猛。第6团团长池义标，政治委员吴嘉民。

新四军苏北指挥部第2纵队是新四军苏北指挥部的三支主力部队之一。1940年7月由新四军第2团、新6团和挺进纵队一部编成。司令员王必成，政治委员刘培善，参谋长杜屏，政治部主任陈时夫。辖第2、第6、第9团。第2团团长段焕竞，政治委员郭猛。第6团团长池义标，政治委员吴嘉民。第9团团长徐绪奎(后李钟民)，政治委员罗维道。第2纵队参加了黄桥战役。10月10日与八路军第5纵队第1支队会师，打通了新四军与八路军的联系。1941年2月，改编为新四军第l师第2旅。