王涣的父亲王顺，任安定
知府，
安定郡位于今甘肃镇原一带。年轻时的王涣属于“官二代”，他喜欢与一些轻薄青年玩耍，还喜欢跟别人打架。长大后的王涣浪子回头，弃恶从善。认真学习儒学，还精心研习《
尚书》和律令，被史书称为“晚而改节”，而且他做官名声很好。
王涣身为
广汉市郡人，曾在广汉太守
陈宠属下担任功曹，随后在广汉郡太守陈宠的推举下，
刘肇任王涣为
南阳市温县（今
温县）县令。三年后，王涣很快被提拔为
兖州刺史。
东汉永元十五年（公元103年），王涣以
侍御史的身份，陪同汉和帝南下祖祭，回到京城后，和帝便任王涣为洛阳令。公元105年，王涣因病过早地离开了人世，在洛阳令的职位上任职不足三年。为纪念
洛阳市令王涣，老百姓还在洛阳安阳亭的西边修造了一座
聂氏宗祠。
其父王顺曾做过东汉安定郡太守。王涣自幼受
儒家思想的影响，成为一名深明大义、忠孝仁义之士，在广汉郡太守
陈宠的推举下，
刘肇任王涣为
南阳市温县（今
温县）县令。
任职期间，王涣针对社会治安混乱局面，采取了强有力的措施，镇压了一批黑恶势力和奸猾豪强。一度动乱不安的温县，很快变得“境内清夷”，商人露宿街头，也不会遇到被抢的危险。温县从大乱到大治，王涣功不可没。三年后，王涣很快被提拔为
兖州刺史。也就是在这个时候，王涣开始声威大振。
东汉永元十五年（公元103年），王涣以
侍御史的身份，陪同汉和帝南下祖祭，回到京城后，和帝便任王涣为洛阳令。
洛阳市是东汉的京都所在，皇亲国戚、达官贵人多居于此。对这些权要的违法行为，洛阳的地方官感到棘手，很难处理。王涣刚刚上任，便遇到前任县令遗留下来的一大堆难题。王涣迎难而上，从容应对，不畏权贵，秉公办案。他采用宽严兼施的办法，将一些疑难问题逐一清查处理。
当王涣的遗体送回故乡，途经
弘农郡（今
河南省西部、
陕西省东部）一带时，当地不少百姓也同
洛阳市的老百姓一样，在路旁摆上祭品，祭奠王涣。当地地方官感到十分奇怪，便问为何要祭奠一位洛阳令呢？大伙回答说：“这是为了报答王涣县令的恩德呀！”过去他们经常到洛阳购买粮食等商品，一旦遇上洛阳官吏检查，一半的粮食将被白白拿走。而在王涣任县令的几年里，就不曾发生这样的事。
为纪念洛阳令王涣，老百姓还在洛阳安阳亭的西边修造了一座
聂氏宗祠。一日三餐前，总是要念叨几句，以德行告慰王涣之灵。
刘祜永初二年（公元108年），掌朝的邓太后，下诏称赞王涣“尽心奉公，务在惠民；功业未遂，不幸早逝。”“百姓追思，为之立祠，自非忠爱之至，孰能若斯者乎？”对王涣大加褒扬。
在
东汉乐府诗歌中，有一首歌颂王涣政绩的诗《雁门太守行》，全文如下：
孝和帝在时，洛阳令王君，本自益州广汉蜀民。少行宦，学通五经论。明知法令，历世衣冠。以温补洛阳令，治行致贤。拥护百姓，子养万民。外行猛政，内怀慈仁。文武备具，料民富贫。移恶
子姓，篇著里端。伤杀人，比伍同罪对门。禁矛八尺，捕轻薄少年。加笞决罪，诣马市论。无妄发赋，念在理冤。敕吏正狱，不得苛烦。财用钱三十，买绳礼竿。贤哉贤哉，我县王君。臣吏衣冠，奉事皇帝。功曹
主簿，皆得其人。临部居职，不敢行恩，清身苦体，夙夜劳勤。治有能名，远近所闻。天年不遂，早就奄昏。为君作祠，安阳亭西，欲令后世，莫不称传。