北朝北魏太和四年（480）废阳平郡及其属县，不久复置阳平郡，隶属
睢州（治今安徽
灵璧县潼郡）。
南陈：
太建五年（573）入据
淮北市，
谷阳郡属潼州（治今安徽灵璧县潼郡）。北朝
宇文邕时入据淮北，谷阳郡隶属
仁州（（治赤坎城，今安徽固镇仁和集）。
北朝北魏太和四年（480）废阳平郡及其属县，不久复置阳平郡，隶属
睢县（治今安徽灵璧县潼郡）。
北朝东魏武定六年（548）取梁之阳平郡，更名
谷阳郡，治
高昌县（治今谷阳城），隶睢州（由潼州改），领高昌县（治今谷阳城）和
连城县（治今安徽固镇连城集）。
南齐建元二年(公元480年)，
萧道成在石鳖城（今
宝应县境内）设置阳平郡。领太清、永阳、安宜、丰国四县。永明七年(公元489年)，阳平郡及所领
太清、永阳、安宜、丰国四县皆侨寄
山阳郡（今
淮安市）内。