网易首页 > 网易号 > 正文 申请入驻

Nature和Science同时报道了一篇论文,试图根治AI幻觉

0
分享至


新智元报道

编辑:艾伦

【新智元导读】《Nature》重磅:80 亿参数小模型 OpenScholar 终结「参数崇拜」!它摒弃死记硬背,凭「检索+自查」根治幻觉,在科学综述任务上表现超越行业顶尖巨头。

昨天,一篇刚刚登上《Nature》正刊的论文,开源了名为 OpenScholar 的模型,也同时被 Science 报道了。


它只有 8B 参数,但正是这个小模型,在科学文献综述任务上,击败了旗舰模型。

这是一场范式转移的信号:在严谨的科学探索中,全知全能的「黑盒」记忆已成过去,精准调用的「外挂」知识库才是未来。

告别幻觉

彼时,科研人员对通用大模型爱恨交织。

恨意主要源于那个致命缺陷——幻觉。

当时的数据令人触目惊心:当被要求回答生物医学等领域的专业问题时,AI 伪造引用的比例一度高达 90%。

它能自信地编造出不存在的论文标题、作者甚至页码。对于需要字斟句酌的科学研究,这种不可靠性是毁灭性的。

OpenScholar 的出现,正是为了修正这一偏差。

由华盛顿大学和艾伦人工智能研究所(Ai2)主导开发的这套系统,本质上不再试图让模型「记住」所有知识,而是教会模型如何像人类学者一样去「查资料」。

OpenScholar 并不依赖参数中的模糊记忆,它外接了一个包含 4500 万篇开放获取论文的巨型数据库。

当你提出一个问题时,它不会直接生成答案,而是执行一套严密的流程:

  1. 检索:先在 4500 万篇文献中快速捞取最相关的片段。

  2. 重排序:利用交叉编码器对片段进行精细筛选,去伪存真。

  3. 生成与反馈:这是最关键的一步。模型生成答案草稿后,会进行自我审查——「这句话有证据支持吗?」如果发现证据不足,它会发起第二轮、第三轮检索,直到每一条论述都有确凿的文献背书。

结果是降维打击式的。在涵盖计算机科学、物理学等领域的 ScholarQABench 基准测试中,OpenScholar-8B 的正确率不仅超越了当时的旗舰模型,更将推理成本降低了两个数量级(约 0.003 美元/次)。


它证明了在特定领域,一个带了「图书馆」的本科生,比一个赤手空拳却爱产生幻觉的博士生更可靠。

DR Tulu

从「回答问题」到「深度研究」

如果说 OpenScholar 解决的是「准确性」问题,那么素材中提及的后续迭代版本——DR Tulu(Deep Research Tulu),则是在向「深度」进军。

科研往往不是简单的一问一答,而是漫长的探索与综合。

2025年11月发布的 DR Tulu,针对的是长篇幅、多维度的「深度研究」任务。

它的核心突破在于引入了「演化评分规则的强化学习」(RLER, Reinforcement Learning with Evolving Rubrics)。

在以往的训练中,AI 很难判断一篇长达数千字的文献综述写得好不好。

DR Tulu 并不依赖固定的评分标准,而是让模型在搜索和研究的过程中,动态生成针对当前问题的评分细则。

它既学习「什么是好的研究策略」(如挖掘冷门数据源),也学习「什么是坏的行为」(如为了凑字数而堆砌引用)。

这种训练让 DR Tulu 具备了更强的规划能力。

面对复杂的科学命题,它能像成熟的研究员一样,先制定大纲,再分头检索,最后综合多源信息撰写长篇报告。

在最新的测试中,DR Tulu-8B 的表现已经足以比肩甚至超越当时的旗舰专有模型,且代码和权重完全开源。


幕后推手:Akari Asai

这一系列颠覆性工作的核心人物,是即将于2026年秋季入职卡内基梅隆大学(CMU)的 Akari Asai(浅井明里)。


这位从东京大学本科毕业、在华盛顿大学获得博士学位的年轻学者,是近年来「检索增强生成」(RAG)领域最活跃的声音之一。

早在 Meta AI 实习期间,她就致力于解决大模型的知识瓶颈问题。

Akari Asai 的研究哲学非常清晰:不要试图把世界装进模型里,要让模型学会拥抱世界。

她主导的 OpenScholar 和 DR Tulu 项目,不仅是技术上的精进,更带有一种强烈的「民主化」色彩。

通过开源高性能的小模型和检索架构,她正在打破只有科技巨头才能垄断顶级科研 AI 工具的局面,让全球资源匮乏地区的科学家也能拥有一位不知疲倦的「超级科研助理」。

结语

科学的本质不是记忆,而是发现。

当我们将 AI 从死记硬背的参数竞赛中解放出来,赋予其查阅、验证和反思的能力时,我们创造的不再是一个仅仅会聊天的机器,而是一把能帮人类在浩瀚知识海洋中披荆斩棘的利刃。

未来的科研,或许不再取决于你读过多少论文,而在于你如何驾驭那位读过所有论文的 AI 助手。

参考资料:

https://www.nature.com/articles/s41586-025-10072-4

https://www.science.org/content/article/open-source-ai-program-can-answer-science-questions-better-humans


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
1个月100万佣金收入,年营收过亿:30岁女孩宣布退休,她是做啥的

1个月100万佣金收入,年营收过亿:30岁女孩宣布退休,她是做啥的

江山挥笔
2026-02-05 18:06:12
5-4!斯诺克8强诞生4席:冠军名将逆转绝杀!赵心童连续3轮遇强敌

5-4!斯诺克8强诞生4席:冠军名将逆转绝杀!赵心童连续3轮遇强敌

球场没跑道
2026-02-05 17:19:59
三只羊拿下网红“无语哥”全球运营权,预计年销售额将超40亿美元

三只羊拿下网红“无语哥”全球运营权,预计年销售额将超40亿美元

凤凰网安徽
2026-02-05 22:17:48
18个预警密集发布!狂跌14°C!上海将有1-3厘米积雪

18个预警密集发布!狂跌14°C!上海将有1-3厘米积雪

上观新闻
2026-02-05 20:39:06
一游客称花200元独享客机从九寨沟飞成都 起飞前还接到客服电话:早点到 随到随走

一游客称花200元独享客机从九寨沟飞成都 起飞前还接到客服电话:早点到 随到随走

闪电新闻
2026-02-04 23:44:27
卓士琳、七老板宣布与三只羊解约

卓士琳、七老板宣布与三只羊解约

极目新闻
2026-02-04 15:46:32
亚洲杯,大主力惨遭两个3-11,两名将输日本选手,国乒三连败

亚洲杯,大主力惨遭两个3-11,两名将输日本选手,国乒三连败

三秋体育
2026-02-05 23:02:36
一想到孩子将来还要接受这样的教育,就惆怅

一想到孩子将来还要接受这样的教育,就惆怅

观人随笔
2026-02-03 15:49:56
如果一辈子只看3部电影,一定要看这3部,看完整个人都不一样了!

如果一辈子只看3部电影,一定要看这3部,看完整个人都不一样了!

i书与房
2026-02-01 17:55:03
别被演义骗了!历史上的秦叔宝,凭一己之力震住整个隋唐战场

别被演义骗了!历史上的秦叔宝,凭一己之力震住整个隋唐战场

楚之奇纵谈文史
2026-02-05 11:58:04
冰心为什么讨厌林徽因?网友:最可恨的是,林的主业还不是文学

冰心为什么讨厌林徽因?网友:最可恨的是,林的主业还不是文学

夜深爱杂谈
2026-02-05 18:04:39
勇士酝酿半天换来波尔津吉斯,这是一个玻璃人啊!

勇士酝酿半天换来波尔津吉斯,这是一个玻璃人啊!

爱体育
2026-02-05 21:54:56
中国女篮新动态!14人名单出炉,30岁老将惊喜回归,比赛时间如下

中国女篮新动态!14人名单出炉,30岁老将惊喜回归,比赛时间如下

米果说识
2026-02-05 22:09:59
国足主帅邵佳一到访皇马,与弗洛伦蒂诺会面并互赠球衣

国足主帅邵佳一到访皇马,与弗洛伦蒂诺会面并互赠球衣

懂球帝
2026-02-05 18:47:16
人怎么能这么聪明!辽宁一女子产后出院遇寒风,丈夫灵机一动用大号塑料袋挡风

人怎么能这么聪明!辽宁一女子产后出院遇寒风,丈夫灵机一动用大号塑料袋挡风

小虎新车推荐员
2026-02-03 06:26:42
网络不是法外之地,官谣谁来买单

网络不是法外之地,官谣谁来买单

涛哥锐评
2026-02-04 11:48:46
第二个恶魔医生被抓,郑大一附院王福建为94名患者植入无用器械

第二个恶魔医生被抓,郑大一附院王福建为94名患者植入无用器械

今日养生之道
2026-02-05 12:23:14
血债必须偿还,中俄已联手,俄率先开第一枪,日本14人被列为战犯

血债必须偿还,中俄已联手,俄率先开第一枪,日本14人被列为战犯

议纪史
2026-02-04 22:15:03
2.5今日金价:大家不必等待了!接下来,金价有可能会重演历史!

2.5今日金价:大家不必等待了!接下来,金价有可能会重演历史!

趣味萌宠的日常
2026-02-05 19:14:11
“对巴拿马,中国反击了”

“对巴拿马,中国反击了”

观察者网
2026-02-05 19:30:08
2026-02-06 00:04:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
14484文章数 66585关注度
往期回顾 全部

科技要闻

美团买下叮咚买菜,防御还是进击?

头条要闻

上海男子刚退休就瘫痪 小23岁女友照护崩溃:无名无分

头条要闻

上海男子刚退休就瘫痪 小23岁女友照护崩溃:无名无分

体育要闻

奇才:我学生……独行侠:成交!

娱乐要闻

微博之夜卷入座位风波!杨幂超话沦陷

财经要闻

中美"只会有好消息" 经济冷暖看房价

汽车要闻

李想为全新L9预热 all in AI造更好的车

态度原创

家居
艺术
时尚
教育
公开课

家居要闻

简雅序章 自然且闲适

艺术要闻

他热爱绘画,生活中的每一刻都充满激情!

她随手打赏就是6两黄金:人美,心善,钱多!

教育要闻

建议收藏|2027英本申请时间轴官宣!UCAS关键节点梳理,附G5名校雅思/规划方案

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版