早年读书，1916年毕业于山东师范讲习所，受聘于济南北园小学，相继在济南近郊
华山、祝店、
郭店街道、龙山等地任教。“五四”运动时开始接受进步思想，在其父
鲁佛民影响下，如饥似渴阅读《
新青年》《
每周评论》等书刊，寻找救国救民的道路。1920年在济南同
王尽美、
邓恩铭等一起组织励新学会，参加“
马克思学说研究会”，阅读研究《
共产党宣言》等著作，
马克思主义成为他的政治信仰。1923年领导了非
基督教大同盟工作开展反帝爱国运动，揭露基督教、“
救世军”为
帝国主义侵略服务的反动实质。为此被省教育厅革除了小学教员的职务，成为职业革命家。1924年组织社会科学研究会，五”运动时组织济南鲁丰纱厂(后改为济南第一棉纺织厂)工人罢工。向厂方提出“成立工会，建立夜校”等12项要求，迫使厂方答应。
在工人夜校，鲁伯峻讲授自编的《平民课本》和《千字课本》，主办《
工人周刊》，宣传革命道理。1925年加入中国共产党。是年秋，到
青岛市肩负起四方、
沧口区各厂党组织领导工作，以阎家山小学校长身份作掩护，创办夜校及工会组织，夜间举办党员训练班，刊印工人小报，翻印《
共产党宣言》等。同年冬，他领导了钟渊纱厂 (后改为青岛国棉六厂) 工人向
日本资本家开展的“增加工资、缩短工时、保障人权”的斗争；组织了宝来纱厂(后改为青岛国棉九厂)工人同封建把头的斗争。12月，当局派大批军警包围了阎家山，搜捕共产党员，他曾两次逃离敌人的搜捕。1927年春到
济南市参与山东省委领导， 分管宣传工作，兼搞近郊农民运动。同年5月，封建军阀
张宗昌在济南疯狂逮捕共产党人，5月中旬中共山东省委机关遭破坏，因叛徒出卖他于5月21日在寓所被捕。狱中遭酷刑，坚贞不屈。面对反动统治者的利诱和酷刑，表现出共产党人富贵不淫、威武不屈的精神。1927年5月23日被敌人杀害于济南千佛山刑场。