衡阳市志的编修工作始于晋朝时期，当时罗含编写的《湘中山水记》是湖南省早期的志书之一。明代和清代是衡阳地区府志和县志编修最为活跃的时期，期间共编修了50余种，现存完好版本约30种。民国时期，虽然各县开始筹备编修地方志书，但由于时局动荡，仅收集了一些资料和部分专业资料。新中国成立后，衡阳市曾在1958年和20世纪60年代尝试编修《衡阳市志》，但未能成功。1983年起，随着社会主义新地方志编修热潮的兴起，衡阳市成立了地方志编修委员会及其办公室，并于1986年6月正式启动编修工作。经过12年的努力，数千名工作者参与其中，至1998年5月完成编修，并于同年9月由湖南人民出版社出版。

《衡阳市志》全书共计870编317章1297节，约480万字，包含总述、大事记、专志、人物传记等内容，配有200余幅彩色图照及中、英文目录、索引，按照编、章、节、目顺序编排，分上中下三册编印。《总述》部分从宏观视角记述了衡阳市这座城市2200年来的历史与现状。《大事记》收录了从公元前221年到1995年发生在衡阳境内的重大事件。80篇专志详细介绍了衡阳市的政治、经济、文化和社交生活等方面，尤其是改革开放以来的巨大变化和成就。书中还收录了近千名学者、专家，近万名革命烈士，近百名全国劳动模范，并为蔡伦、王夫之、彭玉麟、唐群英、夏明翰、罗荣桓等178位名人撰写传记。《衡阳市志》涵盖了政治、经济、社会、人文等多个方面，文字简洁，资料丰富，图文并茂，是衡阳市范围内收录范围最广泛的百科全书，其内容和特色在以往的历代地方志书中都是独一无二的。

《衡阳市志》的编修旨在存史、鉴今、资政、育人。通过记录衡阳市的历史和现状，为了解过去、认识现在、探索未来提供可靠的依据。市志办副调研员蒋大英表示，第二部《衡阳市志》作为各级领导了解衡阳、科学决策的基础文献，具有科学性、系统性、完整性、时代性和地方性等特点。考虑到地方志的重要作用，国家在省市县设立了专门的地方志办公室，并在中国层面设立了“中国地方志指导小组”，以确保地方志的编纂质量。该小组制定了《地方志书质量规定》，明确了地方志书应遵循的严格志书体例，如“横排门类，纵述史实，述而不论”；内容应反映本行政区域内自然、政治、经济、文化、社会的历史和现状；记述的区域界限明确，以本行政区域为记述范围，跨域不书。此外，该规定还涉及了许多具体细节，要求极为严谨。

衡阳市地方志的发展源流可以追溯到晋朝时期罗含所著的《湘中山水记》。这本书共三卷，记载了晋朝湖南省中南部的山水、湖泊、物产、古迹、传说和逸事。遗憾的是，元末战乱导致该书遗失。宋朝时期，衡阳地方志的早期版本包括《衡州图经》《衡州图志》和《衡州地志》，但由于年代久远，这些书籍大多已失传，只有少数书名和片段被引用在其他作品中。衡阳自古就有修志的传统，最初可能源于文人的自发行动，后来逐渐成为官方行为，形成了制度。古代修撰地方志通常由当地行政首长牵头，邀请有名望、学识渊博的文人历时多年完成，如湘军北洋水师将领、清代兵部尚书彭玉麟就主持纂修过《衡阳县志》。明清两代是衡阳市境内府志、县志编修最多的时期，共编修了50余种，现存完好版本约30种。其中，《衡州府志》共有5个版本，分别编修于明朝万历、嘉靖和清朝康熙、乾隆、光绪五个不同的时期。然而，由于近代战争频发以及“文化大革命”的影响，衡阳的方志古籍保存状况不佳，完整的《衡州府志》仅有嘉靖、乾隆两个版本，其余版本大多散落在外，甚至在国外的图书馆和私人藏家手中。