网易首页 > 网易号 > 正文 申请入驻

有人只用API就猜出了GPT、Claude、Gemini的参数量?社区吵翻了

0
分享至



机器之心编辑部

最近,研究人员李博杰在 arXiv 发布论文,提出一个名为「不可压缩知识探针」的评测框架,尝试仅通过黑盒 API 调用,来逆向估算任意 LLM 的参数规模。



  • 论文标题:Incompressible Knowledge Probes: Estimating Black-Box LLM Parameter Counts via Factual Capacity
  • 论文地址:https://arxiv.org/pdf/2604.24827

该研究的灵感源于一项持续三年的非正式测试。据李博杰介绍,其团队成员长期向各代主流大模型提出同一个冷门问题:「你了解中科大 Hackergame 吗?」(一项 CTF 网络安全竞赛)。



跨越多个版本的观察结果,直观展示了模型对世界知识认知的发展:2024 年 5 月,GPT-4o 对该赛事题目存在明显的「幻觉」与编造;至 2025 年 2 月,Claude 3.7 Sonnet 已能准确列出 2023 年赛季的 19 道题目;而到了 2026 年 4 月,多个前沿模型已能精确回忆起连续多届赛事的具体细节。

受此启发,在 DeepSeek-V4 发布后,研究团队利用 AI Agent 历时四天自主构建了完整的 IKP 正式数据集。该数据集包含 1400 个问题,按信息的稀缺程度划分为 7 个层级,并在涵盖 27 家厂商的 188 个模型上进行了全面测试。

研究的核心假设在于:模型的逻辑推理能力可以通过训练技巧被压缩或蒸馏,但对冷门「事实性知识」的记忆容量则无法大幅压缩,其主要取决于模型的物理参数规模。

基于此,研究者在 89 个参数量已知的开源模型(规模从 1.35 亿到 1.6 万亿参数)上拟合出事实准确率与参数量的对数线性关系,拟合优度 R² = 0.917,并据此对闭源模型进行参数估算。

根据该方法,论文给出的估算数字(90% 置信区间约为 0.3 至 3 倍)如下:

  • GPT-5.5:约 9 万亿参数
  • Claude Opus 4.7:约 4 万亿参数
  • GPT-5.4:约 2.2 万亿参数
  • Claude Sonnet 4.6:约 1.7 万亿参数
  • Gemini 2.5 Pro:约 1.2 万亿参数

论文同时指出另外两项发现:

一是引用数量和 h 指数并不能有效预测研究者是否被模型记住,模型更倾向于记住那些产生了领域性影响的工作,而非高产但影响相对分散的学者;

二是跨越三年的 96 个开源模型数据显示,事实记忆容量的时间系数在统计上接近于零,这与此前「Densing Law」所预测的效率随时间提升的规律相悖,研究者据此认为推理能力基准趋于饱和,而事实容量仍主要受制于参数规模。

这组直观的数据迅速在技术社区传播并引发广泛讨论,但也伴随着巨大的争议。



有博主基于这组估算数据,结合近期 Claude Opus 4.7 在部分长文本任务中的主观体验波动,推演出一套完整的逻辑:Anthropic 因算力储备不足(仅为 OpenAI 的四分之一),在训练 Mythos 模型后资源见底,被迫将 Opus 4.7 的参数量从上一代的 5.3T 「反向升级」阉割至 4T;而 OpenAI 则凭借充足的算力将 GPT-5.5 堆到了 9T,从而实现了体验上的反转。



也有多位研究者和从业者对估算数字及方法论提出了不同程度的质疑。

对于 GPT-5.5 约 9 万亿参数的估算,部分用户认为与实际服务能力不符,指出若规模真达到这一量级,OpenAI 现有基础设施难以支撑此前的推出方式,且 GPT-5.4 到 GPT-5.5 的性能提升幅度与 10 倍参数差距并不匹配。有人认为两者规模比约在 2 倍左右更为合理。



同时,定向引入「合成数据」进行微调,同样能显著提升模型对冷门知识的掌握度,这会直接干扰「事实知识不可压缩」的核心前提。



根据该方法估算,Gemini 2.5 Pro 和 Claude Sonnet 的规模约 1.7T,而行业已知国内模型 Kimi k2.6 和 GLM 5.1 约为 800B。若参数差距仅在两倍左右,单纯的数据差异极难解释目前两者间的巨大性能鸿沟。



此外,业内长期流传的 GPT-4 规模约 1.7T,这与论文估算的结果出入极大。



发起讨论的另一位 X 博主也补充说明:「这些数字不应被视为事实,置信区间非常大,我私下收到的反馈表明某些模型的估算可能相差甚远。」



当然,在争议与质疑之外,技术社区中也涌现出了许多极具建设性的正向探讨。

例如,有用户认为 MoE 架构和稠密模型在知识压缩效率上可能存在本质不同(MoE 的事实可能被分散在不同专家中),建议将这两类模型分开统计以观察趋势。







对这组数据你怎么看?

https://x.com/deedydas/status/2049523583517634862

https://x.com/bojie_li/status/2049314403208896521

https://www.zhihu.com/pin/2032769685012361774

https://x.com/yiran2037840/status/2049827667034439821

https://x.com/Yampeleg/status/2049573913399607711

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“大暑3不吃,秋后病不沾”,指哪3不吃?7月23日大暑,要懂忌口

“大暑3不吃,秋后病不沾”,指哪3不吃?7月23日大暑,要懂忌口

神牛
2026-07-21 14:19:25
白鹿断层第一冲上热搜,最尴尬的人应该是孟子义

白鹿断层第一冲上热搜,最尴尬的人应该是孟子义

杰哥娱天下
2026-07-20 19:35:38
回首当年方舟子打假蒋方舟是认真的,不过后来沉默了

回首当年方舟子打假蒋方舟是认真的,不过后来沉默了

天山箴言录
2026-07-21 16:57:50
谢贤火葬不到2天,荒唐一幕接连上演,死因曝光,林青霞无妄之灾

谢贤火葬不到2天,荒唐一幕接连上演,死因曝光,林青霞无妄之灾

喜欢历史的阿繁
2026-07-22 15:50:10
26岁女子体检才知:自己染色体竟为男性!后与男友因“性格不合”分手

26岁女子体检才知:自己染色体竟为男性!后与男友因“性格不合”分手

观察者网
2026-07-21 21:38:59
国家发改委主任,与5家企业负责人座谈

国家发改委主任,与5家企业负责人座谈

新浪财经
2026-07-21 21:47:06
成龙《飞鹰计划4》片场照曝光!抢2000万美元神器,2027年上映

成龙《飞鹰计划4》片场照曝光!抢2000万美元神器,2027年上映

山月不知2
2026-07-20 11:07:55
印媒:中国与印度几乎同时开始研制航空发动机,为何中国在竞赛中始终领先?

印媒:中国与印度几乎同时开始研制航空发动机,为何中国在竞赛中始终领先?

零度Military
2026-07-22 14:24:39
赵又廷自曝影视行业寒冬,半年只接10个剧本,不愿让女儿进演艺圈

赵又廷自曝影视行业寒冬,半年只接10个剧本,不愿让女儿进演艺圈

韩小娱
2026-07-21 17:13:13
台媒曝:大S生前为远离汪小菲、脱离S妈掌控,计划带孩子定居韩国

台媒曝:大S生前为远离汪小菲、脱离S妈掌控,计划带孩子定居韩国

老沮系戏精北鼻
2026-07-22 13:15:52
特朗普:美国很快将重击伊朗“镐山”核设施

特朗普:美国很快将重击伊朗“镐山”核设施

澎湃新闻
2026-07-22 08:39:39
副部长徐成光,回应社会反映最突出的问题

副部长徐成光,回应社会反映最突出的问题

极目新闻
2026-07-21 14:46:18
威少要告别NBA?国王不希望他回归 至今无任何球队开出正式合同

威少要告别NBA?国王不希望他回归 至今无任何球队开出正式合同

醉卧浮生
2026-07-22 08:27:13
狂赚130亿!世界杯成全球最赚钱赛事,中国坚决不申办真相曝光?

狂赚130亿!世界杯成全球最赚钱赛事,中国坚决不申办真相曝光?

史鹷的生活科普
2026-07-21 12:48:09
中央明确了!社保最低缴费年限要提高,70、80后得早做准备

中央明确了!社保最低缴费年限要提高,70、80后得早做准备

云鹏叙事
2026-04-12 16:36:39
乒超最新名单曝光!蒯曼正式离开,孙颖莎孤军奋战 鲁能再无王曼昱

乒超最新名单曝光!蒯曼正式离开,孙颖莎孤军奋战 鲁能再无王曼昱

林子说事
2026-07-22 14:18:06
浇个地差点把自己浇没了?河南男子玉米地脚下突现两米深坑!

浇个地差点把自己浇没了?河南男子玉米地脚下突现两米深坑!

糖逗在娱乐
2026-07-22 13:18:41
这5样东西最好别在网上买,背后水太深,最后吃亏的是自己

这5样东西最好别在网上买,背后水太深,最后吃亏的是自己

家居美少女
2026-07-22 13:10:42
无名指比食指长的人,大多自带三种缘分!老祖宗的话很准

无名指比食指长的人,大多自带三种缘分!老祖宗的话很准

户外阿崭
2026-07-22 13:55:33
中国和巴拿马已就海运协定续签达成共识?外交部回应

中国和巴拿马已就海运协定续签达成共识?外交部回应

环球网资讯
2026-07-21 16:17:03
2026-07-22 16:28:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
13576文章数 142698关注度
往期回顾 全部

科技要闻

怕了?美财长扬言:严查中国AI

头条要闻

A股史上最大财务造假案判了 马兴田夫妇被判赔13.96亿

头条要闻

A股史上最大财务造假案判了 马兴田夫妇被判赔13.96亿

体育要闻

阿根廷的亚军:单核足球的极限?

娱乐要闻

谢贤离世风波再起!王菲探望细节曝光

财经要闻

美国想对中国AI动手?"大人,时代变了"

汽车要闻

上汽贾健旭谈汽车全球化:出海要合规 欧洲人只爱小车是误解

态度原创

艺术
时尚
亲子
数码
手机

艺术要闻

冷军34年前画了幅面具,拍了172.5万

赫本小白裙,简单纯粹!

亲子要闻

“女孩也很好”,但新生男孩越来越多

数码要闻

AOC“U32P4C”31.5英寸显示器发售,2899元

手机要闻

华为首款10000mAh手机降临:麒麟8系坐镇 中端机续航怪兽

无障碍浏览 进入关怀版