网易首页 > 网易号 > 正文 申请入驻

Nature和Science同时报道了一篇论文,试图根治AI幻觉

0
分享至

新智元报道

编辑:艾伦

【新智元导读】《Nature》重磅:80 亿参数小模型 OpenScholar 终结「参数崇拜」!它摒弃死记硬背,凭「检索+自查」根治幻觉,在科学综述任务上表现超越行业顶尖巨头。

昨天,一篇刚刚登上《Nature》正刊的论文,开源了名为 OpenScholar 的模型,也同时被 Science 报道了。

它只有 8B 参数,但正是这个小模型,在科学文献综述任务上,击败了旗舰模型。

这是一场范式转移的信号:在严谨的科学探索中,全知全能的「黑盒」记忆已成过去,精准调用的「外挂」知识库才是未来。

告别幻觉

彼时,科研人员对通用大模型爱恨交织。

恨意主要源于那个致命缺陷——幻觉。

当时的数据令人触目惊心:当被要求回答生物医学等领域的专业问题时,AI 伪造引用的比例一度高达 90%。

它能自信地编造出不存在的论文标题、作者甚至页码。对于需要字斟句酌的科学研究,这种不可靠性是毁灭性的。

OpenScholar 的出现,正是为了修正这一偏差。

由华盛顿大学和艾伦人工智能研究所(Ai2)主导开发的这套系统,本质上不再试图让模型「记住」所有知识,而是教会模型如何像人类学者一样去「查资料」。

OpenScholar 并不依赖参数中的模糊记忆,它外接了一个包含 4500 万篇开放获取论文的巨型数据库。

当你提出一个问题时,它不会直接生成答案,而是执行一套严密的流程:

  1. 检索:先在 4500 万篇文献中快速捞取最相关的片段。

  2. 重排序:利用交叉编码器对片段进行精细筛选,去伪存真。

  3. 生成与反馈:这是最关键的一步。模型生成答案草稿后,会进行自我审查——「这句话有证据支持吗?」如果发现证据不足,它会发起第二轮、第三轮检索,直到每一条论述都有确凿的文献背书。

结果是降维打击式的。在涵盖计算机科学、物理学等领域的 ScholarQABench 基准测试中,OpenScholar-8B 的正确率不仅超越了当时的旗舰模型,更将推理成本降低了两个数量级(约 0.003 美元/次)。

它证明了在特定领域,一个带了「图书馆」的本科生,比一个赤手空拳却爱产生幻觉的博士生更可靠。

DR Tulu

从「回答问题」到「深度研究」

如果说 OpenScholar 解决的是「准确性」问题,那么素材中提及的后续迭代版本——DR Tulu(Deep Research Tulu),则是在向「深度」进军。

科研往往不是简单的一问一答,而是漫长的探索与综合。

2025年11月发布的 DR Tulu,针对的是长篇幅、多维度的「深度研究」任务。

它的核心突破在于引入了「演化评分规则的强化学习」(RLER, Reinforcement Learning with Evolving Rubrics)。

在以往的训练中,AI 很难判断一篇长达数千字的文献综述写得好不好。

DR Tulu 并不依赖固定的评分标准,而是让模型在搜索和研究的过程中,动态生成针对当前问题的评分细则。

它既学习「什么是好的研究策略」(如挖掘冷门数据源),也学习「什么是坏的行为」(如为了凑字数而堆砌引用)。

这种训练让 DR Tulu 具备了更强的规划能力。

面对复杂的科学命题,它能像成熟的研究员一样,先制定大纲,再分头检索,最后综合多源信息撰写长篇报告。

在最新的测试中,DR Tulu-8B 的表现已经足以比肩甚至超越当时的旗舰专有模型,且代码和权重完全开源。

幕后推手:Akari Asai

这一系列颠覆性工作的核心人物,是即将于2026年秋季入职卡内基梅隆大学(CMU)的 Akari Asai(浅井明里)。

这位从东京大学本科毕业、在华盛顿大学获得博士学位的年轻学者,是近年来「检索增强生成」(RAG)领域最活跃的声音之一。

早在 Meta AI 实习期间,她就致力于解决大模型的知识瓶颈问题。

Akari Asai 的研究哲学非常清晰:不要试图把世界装进模型里,要让模型学会拥抱世界。

她主导的 OpenScholar 和 DR Tulu 项目,不仅是技术上的精进,更带有一种强烈的「民主化」色彩。

通过开源高性能的小模型和检索架构,她正在打破只有科技巨头才能垄断顶级科研 AI 工具的局面,让全球资源匮乏地区的科学家也能拥有一位不知疲倦的「超级科研助理」。

结语

科学的本质不是记忆,而是发现。

当我们将 AI 从死记硬背的参数竞赛中解放出来,赋予其查阅、验证和反思的能力时,我们创造的不再是一个仅仅会聊天的机器,而是一把能帮人类在浩瀚知识海洋中披荆斩棘的利刃。

未来的科研,或许不再取决于你读过多少论文,而在于你如何驾驭那位读过所有论文的 AI 助手。

参考资料:

https://www.nature.com/articles/s41586-025-10072-4

https://www.science.org/content/article/open-source-ai-program-can-answer-science-questions-better-humans

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
恒大汽车让一个东北富二代亏了 50 亿,还牵涉进了一个意外的官司

恒大汽车让一个东北富二代亏了 50 亿,还牵涉进了一个意外的官司

李丹Fintalk
2026-08-16 11:47:34
不可思议!韩红基金会加急送出几十万只保温杯,月捐人:我要的不是“爱的加急件”,而是“爱的明细账”

不可思议!韩红基金会加急送出几十万只保温杯,月捐人:我要的不是“爱的加急件”,而是“爱的明细账”

火山詩话
2026-08-16 06:52:37
跟着王兴兴,三名90后财务自由了!

跟着王兴兴,三名90后财务自由了!

21世纪经济报道
2026-08-16 17:15:32
某品牌 “又” 翻车了:宣称屏幕色域为100% sRGB,实测仅约60%

某品牌 “又” 翻车了:宣称屏幕色域为100% sRGB,实测仅约60%

宗熙先生
2026-08-16 10:27:43
和平!李在明提议结束朝鲜战争

和平!李在明提议结束朝鲜战争

IN朝鲜
2026-08-16 12:24:10
预售33.99万起 神行者8预售48小时订单突破10000台

预售33.99万起 神行者8预售48小时订单突破10000台

太平洋汽车
2026-08-16 22:41:14
闹剧结束!《牛来》确认下架!

闹剧结束!《牛来》确认下架!

编剧蓝羽生
2026-08-16 14:56:40
1500万打赏换不来一夜陪睡,榜一大哥反手把女主播送进监狱!他还是9家企业法人,有老婆孩子

1500万打赏换不来一夜陪睡,榜一大哥反手把女主播送进监狱!他还是9家企业法人,有老婆孩子

听心堂
2026-08-16 12:47:15
1-4惨败丢冠!张本智和不喊了:呆呆愣在原地 决赛前曾2亲日本国旗

1-4惨败丢冠!张本智和不喊了:呆呆愣在原地 决赛前曾2亲日本国旗

风过乡
2026-08-17 06:59:51
一座“人造空城”爆改后复业:客流已超100万人次,商铺快招满!央视曾曝光其总耗资24亿元,“停车场是唯一盈利项目”

一座“人造空城”爆改后复业:客流已超100万人次,商铺快招满!央视曾曝光其总耗资24亿元,“停车场是唯一盈利项目”

每日经济新闻
2026-08-16 19:32:24
郭德纲风波再升级,海外巨额财产被扒,曹云金和师娘特殊关系曝光

郭德纲风波再升级,海外巨额财产被扒,曹云金和师娘特殊关系曝光

荣亭小吏
2026-08-16 07:15:28
菲防长特奥多罗指挥军队抓捕中国工人,中国使馆“16连问”喊话!“一贯攻击抹黑中国”的他6月已被我外交部实施制裁和入境禁令

菲防长特奥多罗指挥军队抓捕中国工人,中国使馆“16连问”喊话!“一贯攻击抹黑中国”的他6月已被我外交部实施制裁和入境禁令

新民周刊
2026-08-16 16:10:50
深圳地铁15号线洪浪北站工程发生事故致1人死亡,调查报告公布:工人违章进入起重机回转区被挤压身亡,两家企业及多名责任人被建议追责

深圳地铁15号线洪浪北站工程发生事故致1人死亡,调查报告公布:工人违章进入起重机回转区被挤压身亡,两家企业及多名责任人被建议追责

大风新闻
2026-08-16 18:29:02
血战24小时!也门政府军强势翻盘,重创伊朗扶持胡塞武装

血战24小时!也门政府军强势翻盘,重创伊朗扶持胡塞武装

老马拉车莫少装
2026-08-16 21:35:29
河南某幼儿园招生,已经不限制户籍了!网友:当需要你的时候,啥限制也没有了!

河南某幼儿园招生,已经不限制户籍了!网友:当需要你的时候,啥限制也没有了!

谭谈社会
2026-08-17 01:17:32
网友:军事博物馆那么庄重的地方,竟然有人穿梅西球服参观,心里不是滋味!庄严的红色展馆,服装要注意!评论区吵翻了!

网友:军事博物馆那么庄重的地方,竟然有人穿梅西球服参观,心里不是滋味!庄严的红色展馆,服装要注意!评论区吵翻了!

谭谈社会
2026-08-16 08:06:30
网友:我支持车主撞杆!明明已经付完款,还被强制要求看完广告才能走,而且容易误触下载软件,到头来停车费1分没优惠,评论区一片支持!

网友:我支持车主撞杆!明明已经付完款,还被强制要求看完广告才能走,而且容易误触下载软件,到头来停车费1分没优惠,评论区一片支持!

谭谈社会
2026-08-17 00:38:43
穆里尼奥笑晕!1.4 亿天才 30 分钟封神!皇马新王碾压全场

穆里尼奥笑晕!1.4 亿天才 30 分钟封神!皇马新王碾压全场

澜归序
2026-08-17 04:19:30
4-2!张本美和为何输球?王艺迪赛后说出实情,背后功臣浮出水面

4-2!张本美和为何输球?王艺迪赛后说出实情,背后功臣浮出水面

余飩搞笑段子
2026-08-16 19:44:58
灾难首秀!曼城头号水货现形!1.2 亿新援被阿森纳打爆

灾难首秀!曼城头号水货现形!1.2 亿新援被阿森纳打爆

奶盖熊本熊
2026-08-17 02:18:27
2026-08-17 08:55:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
15952文章数 67007关注度
往期回顾 全部

科技要闻

210亿美元,黄仁勋投了马斯克

头条要闻

妻子产后怀疑丈夫出轨 头晕也怀疑是丈夫在头盔下药

头条要闻

妻子产后怀疑丈夫出轨 头晕也怀疑是丈夫在头盔下药

体育要闻

因莫比莱:普通人的平凡故事

娱乐要闻

谷爱凌发文否认恋情:“散了散了”

财经要闻

电商“AB货”,乱象背后是行业内卷

汽车要闻

杨洋成001号车主 岚图追光S正式上市

态度原创

手机
本地
时尚
旅游
公开课

手机要闻

iQOO十周年概念机:骁龙8 Elite Gen10 Pro+固态电池,梦中情机!

本地新闻

黄景藏用半刀泥刻瓷都魂

名校女硕士:已进入“神仙岗”,卷到冒烟,月入1000

旅游要闻

云南:针对“低价团”等暑期游乱象开展调查

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版