网易首页 > 网易号 > 正文 申请入驻

OpenAI发布GPT-6 Astra后多次修改评测数据 部分指标反复调整

0
分享至

IT之家 9 月 6 日消息,据 Fortune 报道,OpenAI 自当地时间 9 月 3 日下午首次发布 GPT-6 Astra 模型公告以来,已经多次修改其中的评测基准数据。一些更新后的数据显示,Astra 的表现有所提升,而 OpenAI 最大竞争对手 Anthropic 旗下模型的部分成绩则出现下调。

这些变化发生在一次颇为反常的公告发布过程中。


据IT之家了解,OpenAI 最初计划在美国东部时间 9 月 3 日下午 2 点发布博客文章,但又过了近两个小时,文章才终于能够在网上被大多数用户正常访问。

当地时间下午 3 点 32 分,OpenAI 官方 X 账号发布博客链接,但页面无法正常打开,访问者会看到错误提示。下午 3 点 50 分,OpenAI CEO 萨姆・奥尔特曼(Sam Altman)也发布了链接,并写道:“我们在部署博客文章时遇到了一点小问题,但它真的非常棒。”

不过,当时仍有多名用户表示无法打开页面。大约一小时后,页面才终于能够正常访问。

事实证明,OpenAI 实际上在下午 2 点过后不久就发布了这篇博客,但随后又将其撤下。OpenAI 表示无法披露撤稿的具体原因,但强调此事与基准测试成绩无关。

OpenAI 最初解释称,问题源于内容管理系统的故障,随后又表示是互联网中断所致。

然而,当博客重新上线后,其中的多项评测数据已经发生变化,而且部分数据此后仍在继续调整。一些更新后的指标似乎让 Astra 的表现更加突出。

这一事件发生之际,人工智能行业正处于激烈竞争之中。各家公司以极快的速度更新大语言模型,都希望在能力上领先竞争对手。围绕这些指标的争议,也再次凸显出一个长期存在的问题:如何利用标准化基准测试准确衡量大语言模型的能力,以及这些测试成绩是否容易被人为优化甚至“刷分”。

OpenAI 发言人表示:“我们非常重视评测结果的准确性。由于具体使用的模型检查点、测试框架和评测运行方式不同,大多数评测结果本身都会存在几个百分点范围内的波动。对于发布公告中的数据,我们进行了修正,以确保这些数字能够代表我们对模型可用性能的最佳估计,让用户能够进行有意义的比较。”

首版与最终版数据存在差异,而且部分数字仍在变化

最引人关注的变化之一,是 Astra 的幻觉率。

根据互联网档案中保存的一份页面快照,在美国东部时间 9 月 3 日下午 2 点 23 分发布的最初版本中,Astra 的幻觉率为 4.2%。之后的多份页面快照中,这一数字都没有变化,直到下午 3 点 11 分的第五份快照仍然如此。

大约 10 分钟后,OpenAI 才在 X 上发布了最终版本的博客链接。

但在下午 5 点 20 分保存的第六份网页快照中,也就是页面基本已经能够被公众正常访问之后,Astra 的幻觉率以及另外四项指标发生了变化。Astra 的幻觉率从 4.2% 直接降至 2%,几乎减半。

与此同时,Astra 的前代模型 GPT-5.6 Sol 的幻觉率也从 12.2% 降至 9.4%。

不过,OpenAI 此后仍在继续修改这一指标。截至本文撰写时,Astra 和 GPT-5.6 Sol 的幻觉率又分别回到了最初的 4.2% 和 12.2%。

OpenAI 似乎还大幅提高了 GPT-5.6 Sol 在其内部 ExploitBench 网络安全评测中的成绩,从最初版本的 5.5% 提高到后续版本中的 11.5%。

OpenAI 表示,公司目前正在研究是否将这一数字恢复至 5.5%,因为 11.5% 的成绩对应的是 GPT-5.6 Sol 当前并未向商业用户提供的推理能力等级。

OpenAI 在公告开头重点强调,Astra 在数学能力方面表现尤其出色。

从网页快照来看,Astra 在 FrontierMath Tier 4(v2)评测中的成绩始终保持在 97.6%,并没有发生变化。但 OpenAI 曾短暂修改 GPT-5.6 Sol 和 Anthropic 最新模型 Fable 5.1 的成绩。

这些调整一度让 Astra 看起来明显领先于另外两款模型。

在 9 月 3 日下午 2 点 23 分保存的首份网页快照中,Anthropic Fable 5.1 在该数学评测中的成绩为 87.8%。到下午 5 点 17 分,这一成绩下降近 10 个百分点至 78%。截至目前,该成绩又回升至 83%。

GPT-5.6 Sol 的成绩也经历了类似变化,从 83% 下降至 80.5%,随后又恢复至目前的 83%。

这些数据调整甚至早于 OpenAI 下午 2 点首次发布博客之前。

OpenAI 此前向媒体提供的一份受发布禁令限制的预发布草稿显示,Astra 在 ARC-AGI-3 评测中的成绩为 98.6%。而在目前公开的博客中,这一数字已经变成 99.9

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
比井盖?韦世豪疑似地域攻击河南!全家遭河南球迷辱骂+死亡威胁

比井盖?韦世豪疑似地域攻击河南!全家遭河南球迷辱骂+死亡威胁

念洲
2026-09-07 07:01:20
中美紧张,中日紧张,中英紧张,中加紧张,中印紧张,中韩紧张,中欧紧张…… 各类消息看多了,怎么感觉每天都在过得很紧张?

中美紧张,中日紧张,中英紧张,中加紧张,中印紧张,中韩紧张,中欧紧张…… 各类消息看多了,怎么感觉每天都在过得很紧张?

回京历史梦
2026-09-07 17:48:31
中科院:江浙沪血液有害物质浓度爆表!

中科院:江浙沪血液有害物质浓度爆表!

生命科学前沿
2024-03-27 17:38:51
这条无耻新闻,终于引起公愤了!

这条无耻新闻,终于引起公愤了!

胖胖说他不胖
2026-09-07 11:50:18
美网女单再爆冷门:上届亚军阿尼西莫娃0-2出局,郑钦文连赢7局逆转凯斯杀进美网16强

美网女单再爆冷门:上届亚军阿尼西莫娃0-2出局,郑钦文连赢7局逆转凯斯杀进美网16强

林子说事
2026-09-07 10:42:27
湖南自媒体人因文获刑:为弱者发声是否触及刑法红线?

湖南自媒体人因文获刑:为弱者发声是否触及刑法红线?

兵叔评说
2026-09-07 15:59:17
33-3,中国女篮彻底绝望,小组前二基本没戏,大概率淘汰赛一轮游

33-3,中国女篮彻底绝望,小组前二基本没戏,大概率淘汰赛一轮游

南海浪花
2026-09-07 04:56:40
重磅:俄罗斯正式开通图们江大桥!德国将向乌克兰提供情报

重磅:俄罗斯正式开通图们江大桥!德国将向乌克兰提供情报

项鹏飞
2026-09-07 20:55:21
中专女生去香港看演唱会全家被取消低保,表姐发帖大呼可怜

中专女生去香港看演唱会全家被取消低保,表姐发帖大呼可怜

新动察
2026-09-07 09:46:22
大瓜?网传梁宏达也移民了,将在9月15日顺利离境

大瓜?网传梁宏达也移民了,将在9月15日顺利离境

小徐讲八卦
2026-09-06 13:06:15
星宇股份:总经理周晓萍扣薪12个月,人力资源总监免职

星宇股份:总经理周晓萍扣薪12个月,人力资源总监免职

澎湃新闻
2026-09-07 10:06:26
“我们怎么落到与朝鲜伊朗为伍的地步?”这个问题问得好!

“我们怎么落到与朝鲜伊朗为伍的地步?”这个问题问得好!

廖保平
2026-09-07 08:38:06
突发!华为拿下玛莎拉蒂!

突发!华为拿下玛莎拉蒂!

财经要参
2026-09-07 12:00:03
以牙还牙,中国稀土正式断供!2026年9月4日,路透社透露,在中国把RBA纳入反制清单后,不少中国稀土供应商叫停了对美发货

以牙还牙,中国稀土正式断供!2026年9月4日,路透社透露,在中国把RBA纳入反制清单后,不少中国稀土供应商叫停了对美发货

扶苏聊历史
2026-09-07 17:32:06
不再妥协!中日交涉谈无果,日本官宣重大动向,中方收回台阶

不再妥协!中日交涉谈无果,日本官宣重大动向,中方收回台阶

面包夹知识
2026-09-07 22:20:03
余承东:建议苹果用户买华为阔直板当备用机 备用几天就可能成为主力机

余承东:建议苹果用户买华为阔直板当备用机 备用几天就可能成为主力机

快科技
2026-09-07 17:09:20
百万粉丝吃播网红“干饭莹莹”去世,年仅24岁,直播卖皮蛋一场要吃六七十个

百万粉丝吃播网红“干饭莹莹”去世,年仅24岁,直播卖皮蛋一场要吃六七十个

上观新闻
2026-09-07 20:17:01
58-74!世界杯杀出死亡之组,日本女篮爆出意外败局,中国女篮迎来利好契机!

58-74!世界杯杀出死亡之组,日本女篮爆出意外败局,中国女篮迎来利好契机!

刘哥谈体育
2026-09-07 09:16:58
突发!不打了,快船解散

突发!不打了,快船解散

体育新角度
2026-09-07 21:28:58
保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

保利集团董事长贺平的人生颇具传奇色彩:他娶了邓小平的女儿为妻,还曾低调斥资3000万元收回三件国宝

z千年历史老号
2026-09-07 11:43:45
2026-09-08 02:03:00
像素与芯片
像素与芯片
有态度网友ytd
250文章数 70关注度
往期回顾 全部

科技要闻

小米澎程N90 Max定价26.99万元

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

头条要闻

伊朗试验特殊武器爆炸场面如同地狱 美军舰直接跑了

体育要闻

压哨避开CBA选秀规则?NBL香港金牛队已为男篮国手王俊杰报备合同

娱乐要闻

热搜第一,演员李沐宸致歉

财经要闻

证监会原副主席王建军一审被判无期徒刑

汽车要闻

智能可变大空间SUV 小米澎程系列车型上市 20.99万起

态度原创

数码
本地
手机
时尚
公开课

数码要闻

存储吃紧!华硕、技嘉计划再次上调显卡售价:最高涨幅500元

本地新闻

扒完小作文,富豪们私藏的度假胜地有多绝

手机要闻

2026荣耀全球开发者大会日程公布,MagicOS 11定档9月15日

内娱女星,纷纷“去父留子”

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版