老清真寺只是老南京历史的一角。东到
中山南路、西止
莫愁路、南到
升州路、北至
建邺路的一片区域，这里曾经是南京历史上最繁华的地段之一，宗教、民族、商品与市井生活在这里交汇，展现了南京历史上作为商埠通的热闹景象。
中国 伊斯兰教清真寺。旧称花牌楼清真寺。该寺始建于明代，太平天国时毁于战乱，后由本坊哈、杨、丁、常、马、郑6姓乡老集资在南京户部园（即今
太平南路256号左侧）兴建简易殿堂。
1924年，
回族穆斯林富绅蒋慕国、蒋苏出资3万元在原址重建新寺。由于原寺被称为“北寺”，新寺乃称为“南寺”(即今太平路清真寺)。随着时间的推移，北寺寺址4字已无法辨认。新建成的“南寺”共3进：第一进门楼，正面为石牌坊，穿顶建筑仿造杭州凤凰寺的螺丝结顶式样建筑，惜于1931年马路拓宽时被拆除；第二进为5间大厅，进深9.6米，山柱高7.35米，单檐硬山顶，前后有廊；越过小院的第三进为礼拜大殿，面阔5楹，檐柱高6.48米，山柱高8.35米，进深11.8米，气势庄严宏伟。大殿建筑面积189平方米，其建筑质量和工艺的精致，在
南京市各清真寺中属第一流。
该寺自1911年以来，长期为南京及全国性
伊斯兰教团体的所在地。“中国回教促进会南京支部”、“中国回教青年会”、“中国回教协会南京市分会”等先后设在这里。中华人民共和国成立后，人民政府于1953、1959、1980年3次拨款整修，该寺现为中外穆斯林在南京举行宗教活动的主要场所。
江苏省和南京市伊斯兰教协会亦设在寺内。