西汉初，改滕州市为蕃县，治所在今山东滕州市西北处，隶属豫州鲁郡。

东汉，魏，西晋因之。409年（司马德宗义熙五年），蕃县属州鲁郡。527年（北魏孝昌三年），蕃县改名蕃城为蕃郡治所，蕃郡属徐州市。539年（东魏元象二年），撤销蕃郡，并入彭城郡。547年（东魏武定五年）又置蕃郡。北齐废除蕃郡，改蕃城为蕃县，属徐州部彭城郡。586年（隋开皇六年），改蕃县为滕县。