平舒县原为赵国的平舒邑，西汉时期设立为县级行政单位，隶属于代郡。该县的旧址位于现今山西省广灵县的平城乡。到了西晋末期，平舒县被废除。

平舒县最初作为赵国的平舒邑，后来在西汉时期正式设置为县，成为代郡的一部分。其地理位置在今天的山西省广灵县平城乡一带。

北魏太和十一年（487年），东平舒县更名为平舒县，此时的平舒县位于河北省大城县境内，属于章武郡管辖。隋朝开皇三年（583年），平舒县划归瀛州管理。到了大业三年（607年），又转隶于河间郡。唐朝初期，平舒县隶属沧州，但在武德四年（621年）之后，改为隶属于景州。

后晋时期，平舒县一度被契丹占领。直到周世宗显德六年（959年），平舒县才被收复，并更名为大城县。