江南制造局翻译馆的创立与曾国藩密切相关。19世纪50年代，曾国藩在镇压太平天国农民起义的过程中，深刻认识到西方火枪大炮的强大威力，从而产生了在国内建立现代化兵工厂的想法。1865年，江南制造局在上海成立，专注于制造军舰和枪支。随着业务的扩展，1867年，江南制造局搬迁至城南高昌庙镇。在制造过程中，需要翻译大量外文资料，因此1868年成立了翻译馆，负责翻译和引进西方的科技类书籍。现代科学技术正是从这个机构开始在中国扎根发展的。
翻译馆聘请了中外学者共计59人参与译书工作，其中包括9名外国学者和50名中国学者。外国学者中有来自
英国的
傅兰雅（John Fryer）、
伟烈亚力（Alexander Wylie）、罗亨利（Henry Brougham Loch）、秀耀春（F.Huberty James），美国的金楷理（Carl T. Kreyer）、
林乐知（Young J. Allen）、玛高温（Daniel Jerome MacGown）、卫理（Edward T. Williams），以及
日本的
藤田丰八。中国学者则有
徐寿、
华蘅芳、舒高弟、
李凤苞、
赵元益、
徐建寅、郑昌、
钟天纬、瞿昂来、
贾步纬等。译书方法通常由中国学者笔述，外国学者口译，并进行润色。翻译的原则是使用已有的中文名称，如果没有，则创造新的名称，并将其收录在《中西名目字汇》中。翻译馆拥有自己的印刷机构，起初主要采用雕版木刻印刷，后来逐渐转向活字版印刷。使用的纸张主要是连史纸和赛连纸。