湛江市图书馆创建于1960年，其前身是湛江地区图书馆，1983年后改为湛江市图书馆。1996年由市政府投资5500多万元兴建新馆。新馆坐落于
湛江市人民大道北，占地25.1亩，建筑面积21000平方米。主楼高九层，四周楼宇高五层，设有各种阅览室16个，读者座位1200个，可藏书120万册。我国著名书画家
关山月先生为新馆提名。
本馆采用北京丹诚系统，实现馆内业务管理自动化；采用北京
北京世纪超星信息技术发展有限责任公司系统，与
广东省立中山图书馆、
中国国家图书馆联合建立起国内最大的数字化图书馆，并通过该系统，初步实现文献信息资源共建共享。现已开通光纤宽带，建立了有25台
计算机供网上读者使用的
多媒体阅览室，在本馆大堂设有触摸屏
检索系统，供读者检索本馆的书目数据，并在大堂中央有电子显示屏，发布本馆的最新动态。
1998年11月，本馆建立起粤西地区第一个
公共图书馆互联网站，申请了国内域名，并把本馆所有的书目数据和期刊数据上网供广大读者查询检索。为方便读者，本馆现已开通了网上续借功能，只要您进入本馆主页，您就不用到图书馆就可通过互联网对您所借的图书进行续借。本馆现已开放的部门有：借书处、期刊阅览室、社科书库、古籍线装书库、
石景宜赠书室、儿童室及
多媒体阅览室。
在市有关单位支持下，建立了具有地方特色的
亚热带海洋经济数据库。该数据库收集了有关海产养殖新技术的书目数据14000多条，全文数据8000多页及海产品加工、动态情报。目前，该项目将作为我馆科技开题项目向文化部和省科委呈报，已被文化部和省科委立项。
本馆报刊部是湛江地区报、刊文献收藏中心，收藏有4万3千多册过月报纸，服务区设在三楼南区。订有中外文报刊600余种。其中收藏包括《
大公报》、《
经济日报》、《贸易快讯》等
香港电台报纸，《财富》、、《
每日镜报》等外文及港台期刊。报刊阅览面积近1000平方米，阅览座席70余个，并配备了现代化设备，实行开架和半开架服务。可为读者提供查询现有报刊、过月报刊、
计算机课题检索、专题剪报信息等综合性参考咨询服务及办理复印等业务。
古籍线装书库主要收集线装书及古籍善本书为主。共收藏有2万7千多册古籍藏书。有湛江地区、
茂名市、
阳江市等地的地方志及史料。其中明清小说有120多种，2万7千多册古籍中文书中，善本书18册，地方志、家谱、公等都具有很高的版本价值和学术价值。由于本室属特殊藏书库，凭有效证件可查阅，不外借。
湛江市图书馆前身为湛江地区图书馆，古籍书库内藏书多来源于原有馆藏，也有部分由省立中山图书馆捐赠。2022年6月，书库藏有古籍669部9302册，民国线装书籍1万多册，其中古籍善本47部710册。古籍指1912年民国成立前出版的书籍，古籍善本则是价值较高的古籍。
按内容区分，这里的古籍可分为经、史、子、集，书库藏书以“集”为主，多为
清代书籍。其中，最古老的书籍是
明朝万历年间的《徐文长文集三十卷》《实政录》及《诸子品节五十卷》。
2016年6月，湛江市图书馆被评为第二批广东省古籍重点保护单位，馆藏《五礼通考二百六十二卷目录二卷首四卷》（清）
秦蕙田輯清乾隆二十六年(1761)秦氏味經窩刻本入选第二批《广东省珍贵古籍名录》。