小南山地处蚌埠市中心，面积8公顷，海拔44.2米。早在1919年，方振武将军任安徽省省长时，就把此山辟为公园。他专门派了一个工兵营铲平北坡乱石，形成广场；又环坡至山顶修出小道，铺上石阶；沿途还砌了一些石凳，供游人休憩。

小南山解放后成为蚌埠市区的一处景点，一度改称蚌山公园，现在成了儿童游乐场。蚌埠市电视台在山顶上建了电视塔。2001年和2004年，为纪念辛亥革命功臣，在小南山上先后重建了淮上军纪念碑和淮上军总司令张汇滔将军半身雕像。山中广植槐树，每逢四月，满山槐花飘香。

小南山北门外就是南山路，南门正对胜利中路，东邻中荣街。由于地处市区，离街市近，多年来一直是蚌埠市市民休闲的最佳场所。

乘坐公交M343在南山公司公交站下车，穿过住宅小区就走台阶路登山，靠近前海自贸区侧的是在万豪月半山公交站下车，可以从赤湾地铁站乘坐B814两站就到，主要是盘山水泥路，靠近山顶也有部分台阶路。