马怀素（659―718），字惟白。润州丹徒（今江苏镇江）人。幼时家境贫寒，苦读经史。进士第，累迁御使。
开元初，为
吏部侍郎，加银青
光禄大夫，累封
常山县公。兼昭文馆学士，四迁左台
监察御史。有诗作《九日幸临渭亭登高应制得酒字》。
开元初年，为吏部侍郎，加银青光禄大夫，累封常山县公。兼昭文馆学士，三迁
秘书监。
李隆基时（约715年前后）与
褚无量同为侍读，领校秘书。当时秘书省典籍散落，条贯无序。他上疏说：
南齐以前坟籍，归编
王俭《七志》，以后著作，其数盈多。望括俭近书篇目，并前志所遗者，续俭《七志》，藏于秘府。玄宗命他为修图书使，令国子博士韦知章、王惬、
殷践猷、
韦述、余钦、
毋煚等宿学名儒20余人分部校检。后又封他为秘书监，主管全国图书文献征集和整理之事。自
开元五年（717）始，于东都“
乾元殿”部汇整理。又奏秘书少监卢俌、
崔沔为修图书副使，又借民间异本传录。而他不善著述，未及成目录而病卒。但为后来
元行冲作《群书四部录》和毋作《古今目录》奠定了基础。
马怀素，润州丹徒人也。寓居
扬州市，少师事
李善。家贫无灯烛，昼采薪苏，夜燃读书，遂博览经史，善属文。举
进士，又应制举，登文学优赡科，拜尉，四迁左台
监察御史。
长安中，
御史大夫魏元忠为
张易之所构，配徙岭表，太子仆崔贞慎、
东宫率独孤之饯于郊外。易之怒，使人诬告贞慎等与元忠同谋，
武则天令
怀素按，遣中使促迫，讽令构成其事，怀素执正不受命。则天怒，召怀素亲加诘问，怀素奏曰："元忠犯罪配流，贞慎等以亲故相送，诚为可责，若以为谋反，臣岂诬罔神明？昔
彭越以反伏诛，
栾布奏事于其尸下，汉朝
不坐，况元忠罪非彭越，
皇帝岂加追送之罪。陛下当生杀之柄，欲加之罪，取决圣衷可矣。若付臣推鞫，臣敢不守陛下之法？"则天意解，贞慎等由是获免。时夏官侍郎
李迥秀恃
张易之之势，受纳货贿，怀素奏劾之，迥秀遂罢知政事。怀素累转
礼部员外郎，与
源乾曜、
卢怀慎、
李晔等充十道黜陟使。
怀素处事平恕，当时称之。使还，迁考功
员外郎。时贵戚纵恣，请托公行，怀素无所阿顺，典举平允，擢拜
中书舍人。
开元初，为
户部侍郎，加银青
光禄大夫，累封
常山县公，三迁
秘书监，兼昭文馆学士。
怀素虽居吏职，而笃学，手不释卷，谦恭谨慎，深为
李隆基所礼，令与左
散骑常侍褚无量同为侍读。每次阁门，则令乘肩舆以进。上居别馆，以路远，则命宫中乘马，或亲自送迎，以申师资之礼。是时秘书省典籍散落，条疏无叙，怀素上疏曰："
南齐已前坟籍，旧编
王俭《七志》。已后著述，其数盈多，《隋志》所书，亦未详悉。或古书近出，前志阙而未编；或近人相传，浮词鄙而犹记。若无编录，难辩淄、渑。望括检近书篇目，并前志所遗者，续王俭《七志》，藏之秘府。"上于是召学涉之士国子博士
尹知章等，分部撰录，并刊正经史，粗创首尾。会
怀素病卒，年六十，上特为之举哀，废朝一日，赠润州
刺史，谥曰文。