宿迁市实验小学始建于光绪二十四年，即1898年，初名乐群小学，1940年改名为培贤学堂，1999年通过省级实验小学验收。

2007年以来，学校响应市委、市政府号召，以控股、托管等形式先后与8所小学（幼儿园）联合办学，促进了宿迁市教育均衡发展。

1898年，学校创建，初名乐群小学。

1940年，在位于原耶稣教会办的私立培贤女子小学旧址上改名为培贤学堂。

1950年，迁到小南门内赞化宫今址。

1951 年，改名宿迁县城中中心小学，学制为“四二分段制"，一至六年级各2个班的完全小学，并附设幼儿园。

1958年，首先实行“五年一贯制”。

1981年，改为实验小学。

1982年，江苏省教育厅批准生格为省级实验小学。

1999年，学校通过省级实验小学验收。

学校现有西湖路校区（原北校区）、幸福路校区（原南校区）和2020年即将投入使用的学院路新校区。三个校区总占地面积将达210余亩，建筑面积共约10万平方米。现西湖路校区与幸福路校区共有178个教学班，在校生近9000名。

2020年9月，随着宿迁市实验小学学院路校区即将投入使用，原北校区更名为宿迁市实验小学西湖路校区，原南校区更名为宿迁市实验小学幸福路校区，形成宿迁市实验小学三所核心校区，实行一体化管理，统一调配师资和教学计划，并称为宿迁市实验小学发展史上的三颗闪亮的教育之星，正所谓：再添一星促发展，“三星”联动展新颜。

截至2016年，学校在职教职工共430人，其中有中学高级教师职称78人，小学高级教师265人。近年来，学校相继培养出江苏省特级教师10人，江苏省“333”工程培养对象1人，市“135”工程培养对象1人，市名校长、名教师6人，市学科领军人物4人，市学科带头人、市骨干教师、市教学能手、市教坛新秀130余人。先后有150余名教师在全国优课、省、市基本功比赛或优课竞赛中获特等奖、一等奖和二等奖。近年来，学校先后承担省、市级科研课题68项，教师在省级以上刊物发表文章720余篇，在省以上论文比赛中获奖1200余人次，在全市基础教育领域中切实发挥了带头示范作用。

在基础设施建设方面，学校想法设法筹措资金，加大投入，积极改善办学条件，不断提高服务质量和水平。2002年学校自筹措资金1000余万元建成了12000平方米的现代化综合楼，并装备了设施齐全的报告厅和阶梯教室各一口、多媒体网络教室六口，安装了卫星地面接收系统，成立了“春蕾电视台”和“红领巾广播站”，并建设了校园网，接通了Internet网。 2005年，学校积极筹措经费，投资300余万元建设了250米人造草皮操场。同时，又投资近200万元为每个班级装备了背投电视、实物展台等多媒体教学设备，并为每位教师配备了笔记本电脑，真正实现了“堂堂都是多媒体课”的教学目标。

学校确立了“科研兴校”、“精品特色”、“名牌取胜”的发展战略，全面推进“名师工程”和“教育现代化工程”。坚持走科研兴校之路，不断压缩办学规模，努力打造学校品牌，在师资队伍建设方面已经初步形成了金字塔式的名师结构：即三名江苏省特级教师，五名全国“科研型教师”，十六名中学高级教师，二十余名省市级“学科带头人”、“骨干教师”和“科研能手”。在全市基础教育领域中切实发挥了带头示范作用。

近年来，学校把课堂作为实施素质教育的主阵地，把“开放、创新、发展”作为课堂教学改革的指导思想，积极开展课题研究。“十五”期间，学校先后完成八个省、市级课题的研究，并取得突出成绩，其中两个课题分别获得宿迁市首届教育科研成果评比一等奖和三等奖。2000年以来，教师发表文章200余篇，有300余篇论文在全国和省、市级论文比赛中获奖。经过不断的探索与实践，课堂教学已形成鲜明特色。

在特色建设方面，自2003年以来，学校始终将培养学生良好的行为习惯摆在教育的重要位置，在“成功是一种习惯”办学理念的引领下狠抓习惯教育，将习惯教育作为培养和谐学生、打造和谐校园、创建和谐家庭、建设和谐社会的重要内容来抓。学校还以评选“行为习惯之星”为载体，将习惯教育的理念渗透到各个学科的教学之中，培养学生健康向上、文明进取、奋勇争先的良好习惯，为构建和谐社会培养了一大批合格的和谐人才。

在市教育局领导的亲切关怀和悉心指导下，在社会各界的大力支持下，通过全校教职工的共同努力，学校的办学质量和社会声誉稳步提高。2000年以来，学校先后获得“全国学校艺术教育工作先进单位”、“全国巾帼文明示范岗”、“全国优秀家长学校”、“江苏省模范学校”、“江苏省德育工作先进学校”、“江苏省优秀教师集体”、“江苏省青少年科技教育特色学校”、“江苏省绿色学校”、“江苏省教育科研工作先进集体”“江苏省电化教育示范学校”、“江苏省贯彻体育卫生两个条例先进学校”、“江苏省教育科研实验基地”、“宿迁市文明单位”和“宿迁市素质教育示范学校”等40多项荣誉称号。

2020年11月20日，被评为第二届全国文明校园。

2023年6月12日，宿迁市实验小学入选首批全国健康学校建设单位名单。