杨于陵，汉太尉震之第五子奉之后。父杨太清，客居河朔，死于安史之乱。六岁时因战乱避居到建昌（今永修），少年就有奇志。十九岁，进士第，授润州句容（今江苏省）主簿，节度使韩滉将女儿嫁给他。贞元八年（792年），入朝为膳部员外郎。历官吏部郎中、中书舍人、潼关县防御、镇国军使（今华州区）、浙东（今绍兴市）观察使，入为京兆尹（首都市长），“奸人无所影赖，京师豪右大震”，官至户部侍郎。杨於陵为官刚正廉洁、器度弘雅，进止有常。在朝对吏部进行改革，严格办事制度，致使朝政清明。长庆元年（821年），杨於陵入朝任户部尚书、拜太常卿，充东都留守，因年老请辞官。

在杨於陵担任吏部侍郎的四年任期内，他纠正了官员选拔与调配领域中的多项弊端。通过其不懈努力，确保了约三千名官员的选拔过程遵循了公正、合理的原则。

杨於陵任吏部侍郎时，修复人事档案（甲历），把选人档案按时间分成三类管理。设南曹别簿核查，有效遏制了官吏的不正之风。

杨於陵担任京兆尹之际，针对京师长安普遍存在的平民虚挂北军军籍、侵吞军饷并在民间为非作歹的现象，采取了核查、限制与全面清理的措施。这一系列行动有效剔除了军籍中的虚假成分，阻断了奸邪之徒的财路，并使他们无所遁形、失去庇护。此举在京师豪族引起了强烈反响。

“於陵器度弘雅，进止有常。居朝三十余年，践更中外，始终不失其正。居官奉职，亦善操守，时人皆仰其风德。”（《旧唐书》评）

“杨仆射避妇翁之当轴，疏骄尹之怙权，守道居贞，寿考终吉，行己始卒，人以为难。美哉！”（《旧唐书》评）

“杨君之德，《韶》《夏》洋洋。”（《旧唐书》评）

“于陵器量方峻，进止有常度，节操坚明，始终不失其正，时人尊仰之。”（《新唐书》评）

“公绰仁而勇，于陵方重，总沈懿，皆有大臣风，才堪宰相而用不至，果时有不幸邪？”（《新唐书》评）

杨於陵有四个儿子，而且他们都进士擢第，并担任官职。长子杨景复官至同州刺史，次子杨嗣复官至宰相，三子杨绍复官至中书舍人，四子杨师复官至大理寺卿。他的裔孙中也有十人登进士第，并都入朝为官。