张涉，天宝蒲州（今永济市西南）人，家中世代学儒。曾在国学为诸生讲说，后转任国子博士。他能写文章，曾请有关官署日试万言，时人称他为“张万言”。在李适为太子时，张涉担任侍读，教授太子经书。李适即位为唐德宗后，晋升张涉为翰林学士，常召入宫咨询大小政事，恩礼丰厚，官至散骑常侍。后因举荐不当而被疏远。湖南都团练使辛京杲贿赂张涉的事件发，被削官，逐放回故里。

德宗在春宫，受经于涉。及即位之夕，召涉入宫，访以庶政，大小之事皆咨之。翌日，诏居翰林，恩礼甚厚，亲重莫比。自博士迁散骑常侍。上方属意宰辅，唯贤是择，故求人于不次之地。涉举怀州刺史乔琳为相，上授之不疑，天下闻之者皆愕然。数月，琳以不称职罢，上由是疏涉。俄受前湖南都团练使辛京赃事发，诏曰：“尊师之道，礼有所加；议故之法，恩有所掩。张涉贿赂交通，颇骇时听，常所亲重，良深叹惜。宜放归田里。”