黄养蒙最初被任命为浙江
遂昌县的知县。他在任期间表现出宽厚诚挚的态度，公正处理徭役，根据土地数量分配工作负担，使得
胥吏无法从中作恶，赢得了民众的高度赞扬。他还致力于教育事业，兴建学校并改善教学环境。对于诉讼案件，他注重以理服人，避免使用过度的惩罚手段。在公务出行时，他对老年人表示尊敬，并鼓励他们教导年轻人，从而促进了社会风气的转变。他的这些举措得到了上级的认可，并被推广至其他地区。黄养蒙还经常在槟榔山上与学生讨论学术问题，因此这座山后来被称为“
黄山”。
在他的职业生涯中，黄养蒙先后升职为吏部稽勋司
主事、
南京太常寺少卿、光禄卿等职位。在他任职期间，他坚持公平正义的原则，拒绝私人访问，保持廉洁。尽管多次请求退休，但由于
徐阶（文贞）的挽留，他最终因病辞职回家。在家乡，他曾参与提议建设城墙抵御倭寇侵袭，并支持开挖万石坡，这两项措施对当地产生了深远的影响。