於皇寺建于何年已不可考。
南宋末年，於皇寺先后被金、蒙兵马两次焚毁。寺中僧人迫于兵乱，四处云游，不知去向。
一位叫“宣”的僧人，因负伤不能远行，只好逃往钟离古城（今凤阳
凤阳县）的东岳庙焚修。元初，“宣”又回到於皇寺，重建寺庙，招收弟子，“宣”做了开山主持僧。
元至四年（公元1344年）四月，州（今凤阳）发生
瘟疫，朱元璋的父母、长兄在十七天里相继染病而亡。邻居汪母怜悯
朱元璋，于是让其子备礼，送朱元璋到於皇寺为僧。
靠着收租子维持生活的僧人们，由于濠州一带近几年连年受灾，虽想尽办法，仍收不到租子。长老们认为，如果长此下去，於皇寺就要关门了，不如各自为计，有家者归家，无家者外出云游，待度过荒年再回来。在寺庙仅做了五十天小和尚的朱元璋，背上了包袱，告别了长老，就此朱元璋向着元末战乱的社会迈出了第一步。这一天是至正四年（公元1344年）12月26日。
朱元璋离开於皇寺在外云游漂泊，这一云游就是三年。这三年
朱元璋“突朝烟而急进，暮投古寺以趋跄。仰穹崖崔嵬而倚碧，听猿啼夜月而凄凉。魂悠而觅父母无有，志落魄而倘徉。西风鹤，俄淅沥以飞霜。身如蓬而不止，心滚滚而乎沸汤。”他在 《大明皇陵碑文》中这样生动地记录了自己这段坎坷生涯。
云游僧人的艰苦生活，使朱元璋熟悉了
淮南西路大地的风俗、人情、物产、地形，丰富了社会知识，锻炼了意志和体力，为后来朱元璋的戎马生涯和开国登基打下了坚实的基础。
朱元璋像一只孤舟，在人世的大海漂泊了三年，于至正八年（公元1348年）返回於皇寺。元末社会爆发了震撼全国的
红巾军起义。至正十二年（公元1352年）起义军攻占了濠州，并焚烧了於皇寺，寺里和尚全部逃散，
朱元璋为躲避战乱离开了於皇寺。几天后因走投无路，几天后又返回被焚毁的寺庙，接着朱元璋收到了濠州城里
汤和的来信，信里汤和让朱元璋从军参加起义军。朱元璋徘徊了很久，最终他在佛像前卜上了一卦，恰巧是大吉大利之卦，最终他决定投奔起义军。就此展开了朱元璋的戎马生涯。
凤阳县府城镇 二十营村（朱元璋故居）旁，一片明显高于四周的田地，一半已种上油菜，另一半仍空着。据当地农人介绍，这儿四周土地平坦肥沃，唯独这片地方很是奇怪，庄稼
禾本科杂草都不见长。据明史专家考证，此地遗址确认为
朱元璋早年出家当和尚的寺庙“——於皇寺”。
如今寺址地唯留下一口约700余年的老井：这口井保存完好、清水依然。此井深约6丈，内直径95厘米。上覆盖用一整块大石凿成的井栏圈，直径120厘米，内径65厘米，高80厘米。
於皇寺遗址老井西侧这片明显高于四周的田地里，到处遍布砖头、瓦砾、
陶土炼制的生活器具碎片。印证了这片田地当年是寺庙大殿或其他建筑的所在地。