郑崇俭是万历四十四年（1616年）
进士。初任
河南府推官，后又任济南兵备副使。
崇祯初年升任
陕西省右参政，后多次升转担任了右
佥都御史，
巡抚宁夏回族自治区。在此期间，他多次打败
河套平原地区的蒙古部落，受赐朝廷银币，荫封子孙为世袭锦衣副
千户。
崇祯十二年（1639年），兵部右侍郎，
总督陕西三边军务。奉旨率兵入蜀平乱，督总兵
贺人龙、
左良玉等，败
张献忠于玛瑙山，旋还
渭河平原。后张献忠在蜀复振，遂以撤兵太早为罪，削籍候代。崇祯十四年（1641年）张献忠破襄阳，
杨嗣昌死于督师任上，崇祯帝怀恨，责郑崇俭以纵兵擅还，失误军律，弃市。
崇祯十二年（1639年）正月，郑崇俭升任兵部右侍郎，接替
洪承畴总督陕西三边军务。五月，
张献忠在谷城起义，
罗汝才等九营随之俱反，兴安（今陕西安康）告急。总理
熊文灿请求皇上命令郧阳巡抚王永防守江陵、远安，陕西巡抚
丁启睿、
四川省巡抚
邵捷春分别在各自区域内严兵防守，郑崇俭主持提兵合击。这时，
固原市、
临洮县、宁夏的三个总兵
左光先、
曹变蛟、
马科已跟随洪承畴入卫京师，只有柴时华中途返回
甘肃省，郑崇俭调用他而他却不响应。郑崇俭于是传檄要副将
贺人龙、
李国奇等从
西安市出兵。不料，李国奇的队伍到
略阳县时发生士兵起哄，抢劫了瑞王的田租。李国奇当时已提升为
陕西省总兵官，却因此事被免去新职，而郑崇俭也因之被贬官一级。
张献忠起兵后，在
房县的罗英（犬字旁-英）山大败
左良玉的部队，策划进入陕西。郑崇俭率领贺人龙、李国奇的部队把他遏制在兴安，于是
起义军回奔到位于湖广、
四川省交界地带的兴山、太平。这时，
杨嗣昌已经以督师辅臣的名义领兵南下，到
熊文灿的军中取代了他的位置。在此之前，
兵部尚书傅宗龙建议让郑崇俭兼管四川的军队，而杨嗣昌已经发布檄文要求陕西的军队进入四川。郑崇俭于是在
崇祯十三年（1640年）二月率领
贺人龙、
李国奇入蜀，会同左良玉在玛瑙山（今四川万源境内）大败起义军，斩获首级一千三百三十三个，收降起义军领袖二十五人，得到不计其数的兵器和
骡子。虽然郑崇俭亲自指挥作战而杨嗣昌远在
襄阳市，但等到评定功绩时，封赏的一半却归了杨嗣昌，郑崇俭只升官一级，不过是恢复以前所降的那一级罢了。
张献忠失败后逃窜到柯家坪，
四川省将领
张令在追击他时被包围。郑崇俭派兵打跑
起义军，贺人龙、李国奇等又一路追击，在寒溪寺、盐井击败起义军，先后斩获一千五百首级。张献忠的同伙“顺天王”、“一条龙”、“一双龙”全部投降。郑崇俭的军队五天内打了三次胜仗，威名大震。后他因为年老体衰请求辞官回家，而朝廷却不同意，命令他率领郑家栋回
渭河平原，留下
贺人龙、
李国奇继续镇压起义军。
此时，张献忠逃到兴山、归州一带，在山中潜伏下来，
陕西省、湖广的军队都聚集在州，只要将领们齐心协力在深山老林中搜捕，这一千多
起义军残部就可以被全部歼灭。可是，郑崇俭离开后不久，贺人龙的队伍也从开县哗变西归，湖广的部队在土地岭战败，
四川省从此大乱起来。
杨嗣昌于是说郑崇俭撤兵太早，导致贼兵猖。
崇祯起初因为郑崇俭没有管好自己部下的军队就已经不高兴，这时就下令罢了他的官，让
丁启睿去接替他；同时，又怀疑他是借病推托，派巡按去核实情况。第二年春天，
张献忠打下
襄阳市，杨嗣昌死了，失去重臣的崇祯帝更加痛恨郑崇俭没有给杨嗣昌充当犄角，助兵平寇，就把他逮捕入狱，责备他“唆使士兵擅自返回”，“无视军规”，不等到秋后，在五月就把郑崇俭斩首示众。
崇祯帝从即位以来先后杀过七个
总督，分别是郑崇俭、
袁崇焕、
刘策、
杨一鹏、
熊文灿、
范志完、
赵光抃。
崇祯因为
起义军势力的日益壮大而气愤，运用法律更加苛刻，功罪不能相互抵消，封疆大事也一天天坏败，直至最后亡国。
弘光帝在位时，给事中
李琩上书说：“郑崇俭没有丧失过一座城池或一支部队，却因为他人巧言卸责被判处死刑。群臣背地里都知道他的冤屈，却没有人敢出来诉说，对此我很是痛心。”郑崇俭的冤屈才得到昭雪。