网易首页 > 网易号 > 正文 申请入驻

GPT-6 Astra学会用「空白Token」思考!推理能力突然变强

0
分享至

来源:市场资讯

(来源:新智元)


新智元报道

给AI一道难题,不许写解题过程,只准交答案。

答不出来怎么办?

在题目后面,加上一长串毫无意义的点。

就这么一个操作,GPT-6 Astra在一项四跳推理测试中的准确率,从约10%升到了50%。旧AIME数学题上的表现,也从约60%升到了90%。


题目没变,没有补充知识,也没有递上解题提示。多出来的,只有填充Token。

这是Redwood Research在最新报告中,发现GPT-6 Astra背后推理的另一面。

一串……

让GPT-6突然开窍

先还原一下实验场景。

Redwood Research的研究人员给GPT-6 Astra出了一道需要连续推理四步的难题,

比如,1992年诺贝尔文学奖得主的出生日期是哪天?用这个日期去找对应届次的奥斯卡颁奖典礼,最佳女演员是谁?她又是哪天出生的?

难点在于,后一步必须拿到前一步的结果才能继续。第一步找错人,后面就会一路跑偏。

这正是「串行推理」:一环扣一环,不能把所有问题同时摊开来做。

此前测试的所有模型,在这类4-hop任务上准确率只有可怜的1%-3%。

然后研究人员做了一个看起来很傻的操作:在问题后面加了一串「............」。

什么也没问,就是一堆空白token。

Astra的准确率,从大约10%直接冲到了50%。

而对照组,Opus 4.5、Opus 5、GPT-5.6-Sol面对同样的空白token,几乎毫无反应。

只有Astra「看懂了」。或者说,它把那些空白当成了思考的空间。



数学题也涨分,但加点有上限

接下来,研究者把题目换成复杂算式。

多层括号,加减乘除交错,总计15个运算。模型需要处理中间结果,再把它们交给后续计算。

Astra再次表现出比其他受测模型更明显的提升。

不过,15个运算不等于15步串行推理:部分分支可以同时计算。这组测试考验的是嵌套计算能力,不能把运算数量直接当成思考深度。

竞赛数学也出现了类似现象。


研究者测试了两类题:一类将上世纪80年代的AIME题修改数字,以降低训练数据污染的影响;另一类来自2024至2026年的AIME和HMMT。

报告概述中,旧AIME题的准确率从约60%升至约90%。在相关竞赛题测试里,填充Token的收益大约在8192 Token附近达到峰值。

点,并非越多越灵。换成HLE和LiveBench,大多数类别也有改善,但整体幅度更温和。

另外,「其他模型完全做不到」也说过头了。报告的统计检验发现,GPT-5.6 Sol在三个基准上同样呈现提升,只是幅度远不及Astra。

推理Token为零

不等于没动脑

看到这里,很容易冒出一个问题:研究者真的把Astra的推理关掉了吗?

报告脚注交代了实验设置。

由于当时API不支持Astra的reasoning:none,团队使用低强度推理设置,再通过开发者指令要求模型直接回答,禁止输出任何推理过程。

他们确认,所有输出中,API报告的推理Token数量均为零。



这个「零」很关键,但它只代表接口记录的推理Token为零,无法证明模型内部完全没有计算。

研究者还换了几种填充方法:连续数数、重复题目,以及句点。在这些测试中,效果大致相似。

位置也有讲究。填充放在题目之后能带来收益;放到题目之前,没有观察到同样的效果。

这与一种解释相符,模型需要先接触问题,后面的额外位置才有机会参与解题。

AI不写过程

人类怎么看懂它?

Redwood真正担心的,是思维链监控。

一种安全监控思路,是检查模型写出的推理内容,从中寻找危险计划、欺骗意图或违规迹象。

但如果相当一部分计算无需写成文字,这扇观察窗口就可能漏掉重要内容。

当然,这次实验没有展示Astra实施恶意行为,也没有证明它故意隐瞒。研究者指出的是一种风险:模型可能具备比文字记录所呈现的更强的内部处理能力。

这也会影响评测。只要求AI「直接回答」,就把分数当作其无思维链能力的上限,可能低估它。

为此,团队建议,未来的无推理评测加入填充Token测试,进一步探查模型在不输出思维链时能做到什么。

这次实验留下的问题,远比「提示词后面加多少个点」更大。

AI没写出来的过程,还有多少是我们没看见的?

参考资料:

https://blog.redwoodresearch.org/p/astra-is-much-better-at-reasoning

编辑:桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
农业农村部:在充分尊重农民意愿基础上盘活利用闲置农房,让农民多一份财产性收入!

农业农村部:在充分尊重农民意愿基础上盘活利用闲置农房,让农民多一份财产性收入!

极目新闻
2026-09-29 13:50:07
赛力斯半价“问界”来了,华为彻底傻眼!

赛力斯半价“问界”来了,华为彻底傻眼!

财经三分钟pro
2026-09-29 14:28:40
日本沸腾了,见到中国,当面给承诺了!

日本沸腾了,见到中国,当面给承诺了!

故事终将光明磊落
2026-09-29 18:17:37
第三轮第六批中央生态环境保护督察完成督察反馈工作

第三轮第六批中央生态环境保护督察完成督察反馈工作

新京报
2026-09-29 15:35:17
4-2!巴西队大逆转,拉菲尼亚伤退,巴萨受影响,最差的巴西队

4-2!巴西队大逆转,拉菲尼亚伤退,巴萨受影响,最差的巴西队

汪星人哟
2026-09-29 20:15:36
75岁老人被虎头蜂蜇伤6天后离世,一同被蛰的老伴经治疗后出院,家属质疑无人担责,当地回应

75岁老人被虎头蜂蜇伤6天后离世,一同被蛰的老伴经治疗后出院,家属质疑无人担责,当地回应

极目新闻
2026-09-29 20:30:08
刘欢临终细节:妻子卢璐和女儿刘一丝守在床边,母女俩哭到站不住

刘欢临终细节:妻子卢璐和女儿刘一丝守在床边,母女俩哭到站不住

情感大头说说
2026-09-28 05:34:17
林诗栋领奖时,遭现场观众挑衅!樊振东当年说的话,一点都没错

林诗栋领奖时,遭现场观众挑衅!樊振东当年说的话,一点都没错

十点街球体育
2026-09-29 11:09:00
我国已是世界上刑事犯罪率最低、命案发案率最低的国家之一

我国已是世界上刑事犯罪率最低、命案发案率最低的国家之一

界面新闻
2026-09-29 07:07:02
卢璐讲述刘欢病情细节:从确诊到离世,跟骨病熬了十七个年头

卢璐讲述刘欢病情细节:从确诊到离世,跟骨病熬了十七个年头

笑饮孤鸿非
2026-09-29 22:13:01
"45秒,全没了!"柏林宣布退出申办,奥运会从顶级IP沦为财政噩梦

"45秒,全没了!"柏林宣布退出申办,奥运会从顶级IP沦为财政噩梦

云居历史
2026-09-28 15:40:23
一天能卖3000只,有人每周专门开车来买!老夫妻开店28年想退休,要不要接班,儿子犯难:每天凌晨起床,做包子实在太辛苦了

一天能卖3000只,有人每周专门开车来买!老夫妻开店28年想退休,要不要接班,儿子犯难:每天凌晨起床,做包子实在太辛苦了

都市快报橙柿互动
2026-09-29 00:04:41
举报带来的道德崩坏,在网上炸开了!

举报带来的道德崩坏,在网上炸开了!

新动察
2026-09-29 15:16:40
叶子楣参加朋友生日会,瘦成干尸大胸垂到肚,合照搂腰尬笑超僵硬

叶子楣参加朋友生日会,瘦成干尸大胸垂到肚,合照搂腰尬笑超僵硬

娱圈办事处
2026-09-28 17:05:44
噩耗接连传来!刘欢刚走没几日,63岁水均益近况曝光令人心生担忧

噩耗接连传来!刘欢刚走没几日,63岁水均益近况曝光令人心生担忧

生命之泉的奥秘
2026-09-29 01:11:59
太给力!北理工“女拳”导师裴轶直接被解聘,不愧是七子之一

太给力!北理工“女拳”导师裴轶直接被解聘,不愧是七子之一

Mr王的饭后茶
2026-09-29 19:49:49
宋佳获第33届金鹰奖最佳女主角;于和伟获最佳男主角

宋佳获第33届金鹰奖最佳女主角;于和伟获最佳男主角

南方都市报
2026-09-29 21:56:30
已承认,知名演员夫妻确认离婚!

已承认,知名演员夫妻确认离婚!

财经要参
2026-09-29 16:00:05
伴君如伴虎!伊朗总统回国后,穆杰塔巴甩下狠话:你说的根本不算

伴君如伴虎!伊朗总统回国后,穆杰塔巴甩下狠话:你说的根本不算

快乐彼岸
2026-09-29 14:44:32
詹姆斯自曝本想签尼克斯!纽约夺冠后只能作罢:媒体绝对不会接受

詹姆斯自曝本想签尼克斯!纽约夺冠后只能作罢:媒体绝对不会接受

罗说NBA
2026-09-29 07:45:59
2026-09-30 00:20:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
4930632文章数 9696关注度
往期回顾 全部

科技要闻

82亿美元收购!李飞飞将与苏姿丰并肩做AI

头条要闻

老人在景观桥上被虎头蜂蜇伤离世 家属:无人愿意担责

头条要闻

老人在景观桥上被虎头蜂蜇伤离世 家属:无人愿意担责

体育要闻

石雨豪:亚运金牌与背后的十年

娱乐要闻

赌王四房婚礼,何超琼带三房成员现身

财经要闻

央行调整完善若干货币政策工具

汽车要闻

搭华为乾崑ADS 5/设计风格换新 2027款纵横G700售30.49万起

态度原创

手机
房产
教育
游戏
军事航空

手机要闻

总分屈居第二 但视频独一档!iPhone18 Pro的视频实力依旧没人能追上

房产要闻

三亚楼市下半场,被一次交付和一座艺术馆讲透了

教育要闻

如果只给你 100 天,如何从「哑巴英语」到「谈笑风生」?

《魔兽:无限》评级已出!要登陆多个主机平台?

军事要闻

伊朗最高领袖最新发声:伊朗现已变得独立、强大

无障碍浏览 进入关怀版