矩少有高节，以父叔辽未得仕进，遂绝州郡之命。太尉
朱宠、太傅桓焉嘉其志义，故叔辽以此为诸公所辟，拜议郎，矩乃举孝廉。稍迁雍丘令，以礼让化之，其无孝义者，皆感悟自革。民有争讼，矩常引之于前，提耳训告，以为忿可忍，县官不可入，使归更寻思。讼者感之，辄各罢去。其有路得遗者，皆推寻其主。在县四年，以母忧去官。
后太尉胡广举矩贤良方正，四迁为
尚书令。矩性亮直，不能谐附贵势，以是失大将军梁冀意，出为常山相，以疾去官。时冀妻兄孙祉为沛相，矩惧为所害，不敢还乡里，乃投彭城友人家。岁余，冀意少悟，乃止。补从事中郎，复为尚书令，迁宗正、
太常。
延熹四年，代
黄琼为
太尉。琼复为
司空，矩与琼及司徒种暠同心辅政，号为贤相。时，连有灾异，
司隶校尉以劾三公。尚书
朱穆上疏，称矩等良辅，以言
商汤、
李治不罪臣下之义。帝不省，竟以蛮夷反叛免。后复拜太中大夫。
灵帝初，代周景为太尉。矩再为上公，所辟召皆名儒宿德。不与州郡交通。顺辞默谏，多见省用。复以
日食免。因乞骸骨，卒于家。