小北门街道位于上海市南市区，与黄浦江和卢湾区三区交界地段，地处淮海路商业闹市区之间。小北门地区原属邑庙区一部份和嵩山区一部份。在南市区建立之前并没有小北门街道的建制名称。小北门街道地域解放前夕分属邑庙、蓬莱、嵩山区。1950年，邑庙区政府设小北门冬防办事处，1951年改为派出人员办事处。1959年12月邑庙区与蓬莱区合并建立了南市区以后，1960年1月成立小北门街道办事处。同年9月，调整管辖区域，将原露香园路街道泰瑞、贻庆、翁家、肇方、西马居委会划入，居委会增到14个。当时办事处建立党支部，由原嵩山区西藏南路办事处所属的桃源、同康、会稽和南阳等居委和原属露香办事处的大境、怀真、同庆、总弄等居委会并组成小北门街道。建立初期所属居委共8个，后改建成为15个居委。1979年2月，小北门街道办事处设于大方弄43号。1981年将南阳市居委划分成南阳、方西2个居民委员会，至此居委会达15个，有居民小组540个，常住户口18275户，49729人，其中回族261人，满、彝、白等族14人。1993年7月，经上海市人民政府同意，调整了南市区部分街道办事处建制，撤销小北门街道办事处，与原唐家湾街道办事处和蓬莱路街道办事处合并．建立了老西门街道办事处。

辖区地处老城厢，古建筑和革命遗址较多。明末，顾姓建私家花园露香园，以盛产水蜜桃闻名，园内女红精于刺绣，织品“顾绣”畅销欧美及日本等地。明万历年间在城墙上建造关帝庙，清代改建为三层楼阁，称大境阁。冬日登阁可 观赏“沪城八景之一”的“江皋霁雪”。大境阁下现有上海市市区仅存的30余米古城墙,1992年开始修复楼阁。清同治十三年(1874年)和光绪二十四年(1899年)在四明公所两次发生反帝流血案件。今四明公所门楼尚存，是上海人民反对法国殖民者扩张租界斗争的历史见证。民国12年(1923年)在民国路(今人民路)振业里创办的“上海书店”是中国共产党早期出版机构，曾发行《向导》、《中国青年》、《新青年》、《共产党宣言》等书刊。以上3处均被列为市级文物保护单位。抗日战争时期，北门一带被划为难民区，街巷未遭破坏，但由于敌伪势力猖，三教九流混杂，成为藏垢纳污之地。辖区内“九亩地”一带曾开设“绿宝”、“永安”、“同康”等5家赌窟，仅老西门到露香园路一段设有50多家典当、200余处吸毒场所。金家坊夜市旧货地摊公开买卖贼偷货，曾是远近闻名的销赃市场。

解放后，人民政府厉行禁赌禁烟，经过大力整治，社会风气好转。为维护辖区社会秩序，街道办事处于1987年在全区 率先成立街道治安联防大队，参加者2500余人。街道开展民间调解工作，会同区法院建立街道民事纠纷审判站，成立由区法院、公安派出所、房管所和居委会干部组成的泰瑞居委道德评议队，发挥在职职工义务调解员作用,1987～1992年，共调处纠纷140起左右，成功率在90%以上。上海市司法局三次召开现场会，推广泰瑞经验。街道辖区内六年以来实现无重大恶性事件、无调解不当引起非正常死亡、无重大火灾、无精神病患者重大肇事的“四无”目标。为改变辖区内房屋简陋、地面坑洼多和垃圾成堆的状况，市政、房管等部门对各条马路修补拓宽，所有的石子路面全部翻修平整，对原有4000多幢房屋进行维修改建。1959年在淮海东路建造占地4万多平方米的桃源新村,1974～1980年相继在复兴东路云南南路建多幢楼房,1987年在人民路建筑2幢17层高楼。1990年，老西门路段被评为市级文明街。1992年，获市二级卫生街道、市灭蝇先进街、市烟尘达标街道的称号。

小北门街道1988年成立社区教育委员会，对青少年进行爱国主义和革命传统教育。当年,6所小学与所在居委会建 立共建文明单位关系，成立以老干部、先进工作者组成的乡土教育讲师团和由共青团员、民警等组成的校外辅导员、故事员队伍，在四明公所、王若飞塑像、上海书店旧址、大境阁等地设立乡土教育基地。1990年，街道广泛搜集北门史迹，拍摄《寻找北门历史遗迹》录像片，在学校和居委会放映。自1958年组织家庭妇女参加集体生产以来，街道经济逐步发展。1979年为解决回沪知识青年就业问题，街道成立劳动服务公司。1981年又成立合作联社，在此基础上建立社会劳动服务公司。至1992年，有仪表、五金、纺织以及百货修配等38家工、商企业，从业人员402名。1992年产值3945.47万元，上交税收122.11万元，利润150.32万元。辖区内有市属企业14家，其中有省版书店等，还有市百八店、上海冠生园食品有限公司等区属企业274家以及个体户442家。辖区有南市业余大学1所、中学2所、小学6所。实验小学和上海外国语大学附属大境中学分别为部、市重点学校。辖区还有医院2家。