永建元年（126年），刘保即位后，为感谢张皓，任命他为
司空，三年后因灾异被罢免。阳嘉元年（132年），张皓再次担任廷尉，同年逝世，享年八十三岁。其玄孙
张翼在
蜀汉官至左
车骑将军。
张皓少年时研习《律》、《春秋》，游学京师雒阳，与
广汉市人镡、
汉中市任
李郃、
蜀郡人
张霸共结为友善。永元（89年—105年）年间回乡在州郡任职，后被征辟至大将军
邓骘的府中为官，经五次升迁后任
尚书仆射，任职八年后出任彭城王
刘恭的国相，在任内推荐隐士闾丘邈等人。
公元120年（永宁元年），张皓被任命为廷尉，张皓尽管不是世代
法家，但留心刑罚断狱，常与尚书辩论疑难案件，他的意见大多因理由充分被采纳。
公元124年（
延光三年），
刘祜刘的乳母王圣、大长秋江京以及
中常侍樊丰等人诋毁太子
刘保的奶娘王男和厨监
丙吉等人，王男等被杀，家属被流放到比景。太子思念王男和吉，屡屡为此叹息。江京、樊丰怕有后患，便与
阎姬凭空妄造证据，罗织罪名诬陷太子和
东宫官员。
司马德宗发怒，召集三公九卿及以下的群臣，讨论要废黜太子。
耿宝等秉承旨意，一致认为应当废黜。张皓与太仆来历、
太常桓焉提出异议说：“根据经典说，年龄不到十五岁的人，过失与罪恶不由自身负责。况且王男、邴吉的奸谋，太子或许并不知晓，应当为他挑选忠良之臣做保傅，用礼义进行辅佐。废黜太子之事重大，这实在是圣恩所应留驻之处！”安帝不听。退朝后，张皓又上书说：“从前奸臣
江充捏造证据，进行诬陷，使
刘据遇祸，
刘彻很久以后才觉悟过来，尽管追补从前的过失，但后悔又怎么来得及！如今皇太子年方十岁，没有受过保傅的教育，能够骤然责备他吗？”奏书呈上，
司马德宗置之不理。
公元126年（永建元年），
刘保刘保即位后，升张皓为
司空。张皓在职时向朝廷推荐许多贤才，天下称赞他推荐贤。后来，清河人赵腾上书言灾异变化，讥讽朝政，被拘捕治罪，牵连到八十多人，都因诽谤朝廷，应当被处以重法。张上疏劝谏说：“臣听说尧舜设立敢谏鼓，三
王立诽谤木，《
春秋》采好事，写恶事，贤明的天子，不加罪于草野的小民。赵腾等虽然抵触朝廷犯法，但他说话是想尽忠正谏。如果应当诛杀，天下人的嘴巴将堵着，谏争的源流就塞住了，这不是宏扬道德以作后人表率的方法。”顺帝省悟，减赵腾死罪一等，其余免职或罚往边地。
公元132年（阳嘉元年），张皓再次担任迁尉。同年，张皓去世，享年八十三岁。朝廷派使者吊祭，赐葬地于
河南省地界。
范晔《
后汉书》：“①张晧、
王龚，称为推士，若其好通汲善，明发升荐，仁人之情也。夫士进则世收其器，贤用即人献其能。能献既已厚其功，器收亦理兼天下。其利甚博，而人莫之先，岂同折枝于长者，以不为为难乎？昔
柳下惠见抑于臧文，
淳于长受称于方进。然则立德者以幽陋好遗，显登者以贵涂易引。故晨门有抱关之夫，柱下无朱文之也。”“②安储遭谮，张卿有请，龚纠便，以直为。”“③若
李固、
周举之渊谟弘深，
左雄、
黄琼之政事贞固，
桓焉、
杨厚以儒学进，
崔瑗、
马融以文章显，
吴祐、
苏章、
种暠、
栾巴牧民之良干，
庞参、
虞诩将帅之宏规，
王龚、张皓虚心以推士，
张纲、
杜乔直道以纠违，
郎顗阴阳详密，张衡机术特妙，东京之士，于兹盛焉。”