徐衡之是一位具有传奇色彩的人物，早期曾师从国学大师章太炎，后与中西汇通代表恽铁樵建立了师生和友谊关系。他还吕振羽恽铁樵合作创办函授学校，担任教务工作。

徐衡之的经历中最具传奇色彩的是他与中医同道陆渊雷、章次公在“发皇古义、融会新知(中西结合的雅训之最早提法)”方面志同道合，于是合作创办上海国医学院。他那时的痴迷程度，竟至为了凑足经费卖掉了自己的房地产。医校果然在淮海路雁荡路成功开出，极一时之盛，成为老三校外(于上海中医药大学、中国医学院之后，新中国医学院之前)最具规模的一所私立中医高等学府。后臼寇侵华燃起战火，学校毁于一旦，以一人之力独木难支．学校再也无力重建，一片心血付之东流，倒被旁人讥讽为“白痴”办学。徐氏是上海中医学院(前身上海中医专门学校)最早期的肄业生。