远在新石器时期，落在丫髻山下的村庄村域就有人类活动。
唐朝建房舍，明代形成相当规模的村落，称纸坊庄。后因丫髻山庙会兴盛，远近闻名，改称丫髻山。
抗日战争时期，以村中石桥为界，分为两个行政村，此村位于桥北，演化为今名。吉即“髻”的谐音。
丫髻山因其两座山头耸，像古代女童头上的两发丫髻而得名。自唐初便有道士在此结庐修炼。唐
贞观六年（632），建殿堂于西顶。元代改为
碧霞元君祠。明
嘉靖，
香河县一
王姓老，人称王二奶奶，来此募化修庙，建成铁瓦店。明世宗朱厚敕赐“护国天仙宫”门额。据《昌平山水记》载：“天启七年（1627）巡按
御史倪文焕请建太监
魏忠贤生祠于此，赐名崇功祠未成而忠贤败。”唐熙三十七年（1698），重修元君祠，
康熙赐“敷锡广生”匾额。康熙四十三年（1704），康熙初游
丫髻山。康熙五十二年（1713），丫髻山主持李居祥为祝康熙六十大寿。于丫髻山东顶建玉皇阁。康熙题匾额“清虚真宰”赐玉皇阁。康熙五十三年（1714），建成丫髻山行宫。康熙五十四年（1715），康熙作《玉皇阁碑文》称丫髻山为“近福也”。
爱新觉罗·弘历也曾两游丫髻山。据传，
乾隆为还小时出家之愿，曾派替身来此出家，并按丫髻山
道教派谱系取道名为“乾一丙”。
雍正元年（1723）后，每年由内条府于农历四月十八日到“丫髻山进香成为定制。
爱新觉罗·旻宁十六年（1836），重修
碧霞元君祠，翌年，道光与皇太后同游丫髻册。丫髻山几乎成了
清代皇室的家庙。
抗日战争和
解放战争时期，
丫髻山庙毁于炮火。1986年，平谷县政府恢复了每年农历四月的丫髻山庙会。由当地村民集资和游人捐款，逐年修复了碧霞元君祠 等建筑。每年四月庙会期间，丫髻山又重现了当年在盛况，游人达百余万人次。