网易首页 > 网易号 > 正文 申请入驻

有人只用API就猜出了GPT、Claude、Gemini的参数量?社区吵翻了

0
分享至

机器之心编辑部

最近,研究人员李博杰在 arXiv 发布论文,提出一个名为「不可压缩知识探针」的评测框架,尝试仅通过黑盒 API 调用,来逆向估算任意 LLM 的参数规模。

  • 论文标题:Incompressible Knowledge Probes: Estimating Black-Box LLM Parameter Counts via Factual Capacity
  • 论文地址:https://arxiv.org/pdf/2604.24827

该研究的灵感源于一项持续三年的非正式测试。据李博杰介绍,其团队成员长期向各代主流大模型提出同一个冷门问题:「你了解中科大 Hackergame 吗?」(一项 CTF 网络安全竞赛)。

跨越多个版本的观察结果,直观展示了模型对世界知识认知的发展:2024 年 5 月,GPT-4o 对该赛事题目存在明显的「幻觉」与编造;至 2025 年 2 月,Claude 3.7 Sonnet 已能准确列出 2023 年赛季的 19 道题目;而到了 2026 年 4 月,多个前沿模型已能精确回忆起连续多届赛事的具体细节。

受此启发,在 DeepSeek-V4 发布后,研究团队利用 AI Agent 历时四天自主构建了完整的 IKP 正式数据集。该数据集包含 1400 个问题,按信息的稀缺程度划分为 7 个层级,并在涵盖 27 家厂商的 188 个模型上进行了全面测试。

研究的核心假设在于:模型的逻辑推理能力可以通过训练技巧被压缩或蒸馏,但对冷门「事实性知识」的记忆容量则无法大幅压缩,其主要取决于模型的物理参数规模。

基于此,研究者在 89 个参数量已知的开源模型(规模从 1.35 亿到 1.6 万亿参数)上拟合出事实准确率与参数量的对数线性关系,拟合优度 R² = 0.917,并据此对闭源模型进行参数估算。

根据该方法,论文给出的估算数字(90% 置信区间约为 0.3 至 3 倍)如下:

  • GPT-5.5:约 9 万亿参数
  • Claude Opus 4.7:约 4 万亿参数
  • GPT-5.4:约 2.2 万亿参数
  • Claude Sonnet 4.6:约 1.7 万亿参数
  • Gemini 2.5 Pro:约 1.2 万亿参数

论文同时指出另外两项发现:

一是引用数量和 h 指数并不能有效预测研究者是否被模型记住,模型更倾向于记住那些产生了领域性影响的工作,而非高产但影响相对分散的学者;

二是跨越三年的 96 个开源模型数据显示,事实记忆容量的时间系数在统计上接近于零,这与此前「Densing Law」所预测的效率随时间提升的规律相悖,研究者据此认为推理能力基准趋于饱和,而事实容量仍主要受制于参数规模。

这组直观的数据迅速在技术社区传播并引发广泛讨论,但也伴随着巨大的争议。

有博主基于这组估算数据,结合近期 Claude Opus 4.7 在部分长文本任务中的主观体验波动,推演出一套完整的逻辑:Anthropic 因算力储备不足(仅为 OpenAI 的四分之一),在训练 Mythos 模型后资源见底,被迫将 Opus 4.7 的参数量从上一代的 5.3T 「反向升级」阉割至 4T;而 OpenAI 则凭借充足的算力将 GPT-5.5 堆到了 9T,从而实现了体验上的反转。

也有多位研究者和从业者对估算数字及方法论提出了不同程度的质疑。

对于 GPT-5.5 约 9 万亿参数的估算,部分用户认为与实际服务能力不符,指出若规模真达到这一量级,OpenAI 现有基础设施难以支撑此前的推出方式,且 GPT-5.4 到 GPT-5.5 的性能提升幅度与 10 倍参数差距并不匹配。有人认为两者规模比约在 2 倍左右更为合理。

同时,定向引入「合成数据」进行微调,同样能显著提升模型对冷门知识的掌握度,这会直接干扰「事实知识不可压缩」的核心前提。

根据该方法估算,Gemini 2.5 Pro 和 Claude Sonnet 的规模约 1.7T,而行业已知国内模型 Kimi k2.6 和 GLM 5.1 约为 800B。若参数差距仅在两倍左右,单纯的数据差异极难解释目前两者间的巨大性能鸿沟。

此外,业内长期流传的 GPT-4 规模约 1.7T,这与论文估算的结果出入极大。

发起讨论的另一位 X 博主也补充说明:「这些数字不应被视为事实,置信区间非常大,我私下收到的反馈表明某些模型的估算可能相差甚远。」

当然,在争议与质疑之外,技术社区中也涌现出了许多极具建设性的正向探讨。

例如,有用户认为 MoE 架构和稠密模型在知识压缩效率上可能存在本质不同(MoE 的事实可能被分散在不同专家中),建议将这两类模型分开统计以观察趋势。

对这组数据你怎么看?

https://x.com/deedydas/status/2049523583517634862

https://x.com/bojie_li/status/2049314403208896521

https://www.zhihu.com/pin/2032769685012361774

https://x.com/yiran2037840/status/2049827667034439821

https://x.com/Yampeleg/status/2049573913399607711

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
演到《复仇者联盟》的桑德拉·惠勒,曾一口回绝《利益区域》

演到《复仇者联盟》的桑德拉·惠勒,曾一口回绝《利益区域》

桃桃淘电影
2026-11-21 11:11:54
WTT球星赛收官!三冠一天决出,赢张本智和的陈垣宇,再遇拦路虎

WTT球星赛收官!三冠一天决出,赢张本智和的陈垣宇,再遇拦路虎

铜臭的历史味
2026-11-22 06:25:51
今天15时23分,陕西正式迎来……

今天15时23分,陕西正式迎来……

91.6陕西交通广播
2026-11-22 09:58:26
苏州工业园区召开全区领导干部会议

苏州工业园区召开全区领导干部会议

苏州工业园区发布
2026-11-22 00:16:55
梅西获评8分:拿球砸人染黄+率队0-3遭遇美职联季后赛开门黑

梅西获评8分:拿球砸人染黄+率队0-3遭遇美职联季后赛开门黑

侧身凌空斩
2026-11-22 09:16:30
U17国足VS摩洛哥:徐正鹏坐镇,万项+帅惟浩领衔前场,赵松源冲锋

U17国足VS摩洛哥:徐正鹏坐镇,万项+帅惟浩领衔前场,赵松源冲锋

零度眼看球
2026-11-22 07:33:02
黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

黄仁勋老婆给他买的皮衣怎么办?网友:“千算万算,没想到他离婚会波及到我啊!”

LOGO研究所
2026-11-09 19:40:24
体坛:穆斯卡特留任海港几无悬念,目标足协杯冠军+亚冠出线

体坛:穆斯卡特留任海港几无悬念,目标足协杯冠军+亚冠出线

懂球帝
2026-11-22 11:04:25
娘家拆迁362万没我份,母亲寿宴我不去,次日弟弟带来一份文件

娘家拆迁362万没我份,母亲寿宴我不去,次日弟弟带来一份文件

红豆讲堂
2024-12-29 11:07:41
江西摩的司机黄全顺:3年奸杀16名女子,19岁妻子得知真相绝望自尽

江西摩的司机黄全顺:3年奸杀16名女子,19岁妻子得知真相绝望自尽

雾岛夜话
2026-11-21 15:11:03
摩纳哥国庆:夏琳独揽摄政大权,母女装赢麻!碧翠丝生三胎显疲态

摩纳哥国庆:夏琳独揽摄政大权,母女装赢麻!碧翠丝生三胎显疲态

时间巡查
2026-11-20 23:42:51
大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

大二女生去按摩,男技师让她脱内裤跪着背对着他,整个人贴了上来,店长:包厢没监控,赔700块

一丝不苟的法律人
2026-11-08 16:44:48
中国是否应考虑聘任黄仁勋?回国助力发展国产芯片 作用有多大?

中国是否应考虑聘任黄仁勋?回国助力发展国产芯片 作用有多大?

乌克兰小静
2026-11-22 10:46:18
公司团建就漏了我一个,大伙疯玩了七天,总经理妻子这才叫我去吃饭,我冷笑:我早办完离职手续,已经正式进对手公司了

公司团建就漏了我一个,大伙疯玩了七天,总经理妻子这才叫我去吃饭,我冷笑:我早办完离职手续,已经正式进对手公司了

那年秋天
2026-11-20 19:00:04
美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

美国公司将特斯拉Model 3爆改成MPV,超充、OTA、辅助驾驶都能用

IT之家
2026-11-21 18:55:05
竟然有那么多人想方设法拖垮你孩子的成绩!网友:人心险恶

竟然有那么多人想方设法拖垮你孩子的成绩!网友:人心险恶

夜深爱杂谈
2026-11-03 18:43:42
人社部重点严查五类退休人员!

人社部重点严查五类退休人员!

逍遥论经
2026-10-17 17:39:47
挺不住了,多家光伏企业接连破产

挺不住了,多家光伏企业接连破产

老杨说光伏
2026-11-21 21:02:40
高市早苗摸特朗普后背遭躲闪,日网友痛斥:没资格当首相

高市早苗摸特朗普后背遭躲闪,日网友痛斥:没资格当首相

沧海一粟1155
2026-11-21 08:13:58
乒坛奇迹!6名追兵集体翻车!香港总决赛男单16强诞生:国乒占据4席,21岁林诗栋终于搭上末班车,感谢韩乒

乒坛奇迹!6名追兵集体翻车!香港总决赛男单16强诞生:国乒占据4席,21岁林诗栋终于搭上末班车,感谢韩乒

篮球热嗖
2026-11-22 11:23:22
2026-11-22 13:47:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14525文章数 142763关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

时尚
数码
房产
公开课
军事航空

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

数码要闻

华为WATCH GT6获鸿蒙7.0.0.108SP8升级,表端支持微信来电接听和挂断

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版