1962年5月1日，以三明市人民武装部为基础，并从福建省军区机关、陆军第28、第31军和守备第8师抽调部分人员，成立三明军分区，归福建省军区建制领导。司令员阮文炳(当时任副司令员，1964年12月升任)，政治委员张维滋(地委书记兼，1964年7月任职)，第二政治委员程华民(当时任副政治委员，1964年7月升任)。机关编制90人。负责中国人民武装警察部队内卫部队治安、地方武装及兵役工作。

三明军分区成立时，辖永安市、清流县、宁化县、三明县和三明市城区人民武装部。1963年4月，大田县人民武装部划归三明军分区建制；三明县、三明市城区人民武装部依次改称为明溪县、三明市人民武装部。1970年7月，建宁县、泰宁县、将乐县、尤溪县、沙县区等5个县人民武装部划归三明军分区建制领导。1983年7月，撤销三明市人民武装部，增编梅列区、三元区人民武装部。1984年11月，永安县人民武装部改为永安市人民武装部。1986年6月改归地方建制时，三明军分区辖永安市，大田、清流县、明溪、宁化县、建宁、将乐、尤溪、沙县、泰宁县和三明市梅列区、三元区人民武装部。