1979年，总参谋部、总政治部规定，凡集中安置十五户以上离休干部的点，可设立管理机构，称“中国人民解放军xx军区离职干部休养所”，执行团级权限。1984年，国务院、中央军委转批民政部、总政治部关于做好移交地方的军队离休退休干部安置管理工作的报告中的规定，要建立健全民政部门管理军队离休退休干部的机构。县（市区）级直接为军队离休退休干部服务的工作人员，在民政部门的编制之外，列事业编制。在此之后，
中原地区采取了相对集中安置，建立干休所，实行统一管理的办法。2015年民政部下发“关于印发《军队离休退休干部服务管理机构工作指引》的通知”。
军队离休退休干部休养所由所长负责，党组织保证监督，军队离休退休干部参与民主管理。干休所所长的职责主要是：实施所内行政业务的领导，领导做好军队离休退休干部服务管理工作。所长要按
民主集中制的原则，对重大问题实行民主决策。军队离休退休干部管理委员会，是所内军队离休退休干部自我教育、自我服务、
自我管理的组织。管理委员会成员由民主选举产生。其主要职能是：协助所长和党组织搞好干休所建设，发挥参谋、协调、监督作用；反映老干部的合理意见，维护老干部的合法权益。
军队离休退休干部休养所主要任务是，按照党和政府关于安置军队离休退休干部的方针、政策和规定，落实军队离休退休干部的政治待遇、生活待遇，发挥他们的作用，使他们安度晚年。组织军队离休退休干部看文件、听报告，开展各种文体活动；落实他们的各项待遇，并尽可能地帮助他们解决生活中遇到的困难。