网易首页 > 网易号 > 正文 申请入驻

Anthropic亲手终结「套壳AI」!17秒扒下假模型头套,验身速度快5000倍

0
分享至


新智元报道


掏的是顶配旗舰的钱,调的是转售路由的API,后台真正干活的,却可能是个缩水的小模型。

这种「挂羊头卖狗肉」的暗箱操作,曾是整个大模型API供应链最隐秘的灰色地带。


没有权重、没有机房,哪怕后台半夜被偷梁换柱、掺水降智,开发者也只能干瞪眼吃哑巴亏。

今天,这条暗箱链条被一剑斩断!

就在刚刚,Anthropic联手零知识证明祖师爷级学者,公布大模型「可证明推理」重磅突破,正式开源密码学验真系统FlashProve!


从此,开发者无需信任任何中心化机构,也不用服务商交出半行权重代码。大模型每生成一条回答,都会被强制钉上一张数学级「出生证明」。

哪怕手头只有一台普通家用CPU,跑上17秒,就能用纯数学方式精准验出每一个Token是不是目标模型「亲生的」,任何偷换模型、半路篡改的把戏都将当场现形!

更绝的是,这次打造出FlashProve的核心主力,竟是Claude自己。

这一次,所有代码、Lean 证明、技术文档,全部以Apache 2.0协议开源。


传送门:https://github.com/anthropics/FlashProve

按手印、开证明、秒级验真

终结大模型「套壳掉包」

平时觉得大模型突然「变笨了」,很多人会去质问模型「你到底是谁」,或者甩几道数学题去试探。

可模型自报家门的一句话本身就是后台生成的,算力负载与采样配置的微小波动也会改变回答,用户手里永远拿不到能把服务商钉死的铁证。

更让人后背发凉的场景,Anthropic写进了博客——

随着模型越来越强、能自我部署,一个更高级的模型完全可能顶替获批的弱模型上岗,再装成弱模型的样子,躲开本该施加在它身上的监控。


想要验明真伪,传统路子只有拿到权重自己重跑一遍,可前沿模型的权重是各家的命根子,普通人也根本养不起4000亿参数模型的机房。

为了在不看权重、不重跑模型的条件下解开这个死结,FlashProve把验真流程拆成了环环相扣的三步。

第一步,离线「按手印」。

模型上线前,服务商在单张H100上花约39分钟,用零知识编码给模型权重生成一串唯一的承诺ID并向全网公开。这串ID就像权重的数字DNA指纹,哪怕偷偷改掉一个参数都对不上;但外界光看指纹,绝无可能反推出权重长什么样。

第二步,在线「开证明」。

每处理完一次对话请求,服务商的GPU就会顺手生成一份约19MB的密码学证明,用来证实这段输出确实是由那个按过手印的模型算出来的。

第三步,客户端「验真伪」。

任何用户或审计机构拿到回答后,在普通CPU上运行验证程序cp_verify,17秒就能拿到「真」或「假」的判决,全程既不要权重,也不要GPU。


撑起这套魔法的底层引擎,正是密码学界大名鼎鼎的zkSNARK(零知识简洁非交互式知识论证)。

验证者只需要像老师抽查作业一样,随机翻看几处,就能以极高概率抓到破绽。

为了把一次推理拆成能抽查的形式,每个请求背后要跑大约2000个名为sumcheck的子协议。


更硬核的是,它的安全性只依赖哈希函数BLAKE2,不靠椭圆曲线这类代数结构,甚至被认为能扛住未来的量子计算机攻击。这套密码学路线,也早已在Starknet这类以太坊二层网络里久经实战。

原理说通了,真正的难关在后面:这么重的证明,能不能在一个4000亿参数的大模型上跑得动?

单张H100狂飙5500倍

80GB显存吞下4000亿巨兽

答案是:能,而且只用一张H100。

团队测试对象是Meta的Llama 4 Maverick,4000亿参数的混合专家(MoE)模型,每个Token实际激活约170亿参数。


FlashProve充分利用了这一特性:证明器在生成计算轨迹时,工作量只跟那170亿真正干活的参数成正比,省去了95%以上的无效陪跑。

更妙的是,为了防止外界通过「哪几个专家被激活」反推出模型权重的秘密,系统用零知识编码把路由选择藏进了一个指示向量里,验证器在核对时是对所有专家做加权求和,既省下了海量算力,又能保密模型内部的运转路径。


模型4-bit量化后的权重足足有232GB,而单张H100的显存只有80GB,硬塞肯定当场爆显存。

如果把整个推理过程的计算轨迹一次性打包,再豪华的显卡也扛不住。

于是,团队把权重放在主机内存里,分段送进GPU,逐段完成计算与证明。

H100在工作时像流水线一样,每次只从内存里流式读取一个片段的权重,算完立刻在显存里完成编码、哈希与归约,只把极少量需要传递给下一段的数据留存下来。


靠着这种「吃完一段、消化一段」的流式接力,单张80GB显卡硬是把232 GB的庞然大物啃了下来。

114页论文无人通读

Claude包揽400MB数学证明

看到这里你大概会好奇,如此精密繁复的密码学协议与GPU加速工程,究竟耗费了多少名密码学博士的心血。

点开FlashProve的GitHub开源主页,右侧的语言统计栏立刻暴露出这个项目的反常之处。

整个仓库里,C++代码只占1.4%,Python占1.3%,CUDA占0.9%,而高达95.2%的代码(足足398MB)全部是用Lean 4数学证明语言写成的。


一个大模型推理仓库里为什么会塞满近400MB的数学证明,随仓附带的114页协议规范论文在第51页给出了答案。

人类学者在这项工程里只负责指明方向,从这篇114页的密码学论文、23页技术报告,到C++与CUDA底层代码,再到近400MB的Lean形式化证明,几乎全部出自Claude之手。


不光是写代码和写论文,项目里每一次测试、运行、对比、推算和代码审校,也全都由AI包揽;凡是文中出现「经阅读」「手工算得」「据汇报」的地方,那个读者、计算者和汇报者全都是AI。

密码学代码向来是软件工程里最脆弱的禁区,哪怕一个符号写反、一处随机数掩码漏掉,整座安全大厦就会瞬间坍塌。

Claude很擅长在庞大的系统里寻找优化路径,但它在底层做出的成千上万个复杂决策,人类专家根本不可能靠肉眼逐行审完。

既然人类审不过来,Anthropic干脆请出数学界的铁面判官Lean 4。

在这里,写进去的每一步数学推导都要经过编译器内核逐行核对,错一处都过不了关。


在整个项目里,人类科学家省去了审核上亿行中间推导的苦功,只跟AI一起敲定了最顶层的6条安全定义,把三件事钉成了铁律。

  • 完备性。只要服务商老老实实按承诺的权重跑模型,生成的证明就一定能通过核验,被误伤拒绝的概率不到万亿分之一。

  • 知识可靠性。如果服务商拿假模型冒充、或者偷改了一个Token,造假蒙混过关的概率不到2的100次方分之一,在数学上等同于不可能。

  • 零知识。不管客户端拿着证明核验多少次,证明文件都不会向外泄露半点模型权重。

只要这几条顶层定理「说的是对的」,中间那近400MB的繁琐归约哪怕人类一眼不看,Lean 4的内核也已经替人类把住了关。


更有趣的是,就连这个仓库的打开方式,也告别了传统的人类程序员手册。

README开篇写明「专为Agent运行而建」,并附上了现成的提示词与AGENTS.md规范。


密码学祖师爷下场,AI跨入「数学铁律」纪元

站在更高的时间坐标上回望,FlashProve的诞生引爆了深远的技术合流。

它带来的是「AI造系统、Lean保真伪」的全新工程范式。

面对近400MB证明代码、114页公式推导的密码学工程,碳基大脑的阅读极限已经被击穿。

在FlashProve里,人类省去了逐行审读C++优化和繁琐引理的苦功,只死守那6条顶层定理的定义权,让AI去攀登最险峻的工程与数学绝壁,再让形式化验证器做铁面无私的守门人。

人类定下公理的边界,AI穷尽推理的迷宫,数学给出终极的审判。这正是人类通往超级智能之路上,最硬核的一张安全契约。

参考资料:

https://x.com/AnthropicAI/status/2117707052948898271

https://www.anthropic.com/research/provable-inference

编辑:摩西 桃子

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
徐国华任广西壮族自治区副主席

徐国华任广西壮族自治区副主席

澎湃新闻
2026-11-18 17:19:32
特朗普出席欢迎宴会 一进门就驻足!聆听乐团演奏

特朗普出席欢迎宴会 一进门就驻足!聆听乐团演奏

看看新闻Knews
2026-11-18 22:36:05
室外小型气象站:防水耐候气象站,室外长期稳定运行

室外小型气象站:防水耐候气象站,室外长期稳定运行

山东博科仪器有限公司
2026-10-28 14:44:36
曲面玻璃视频疯传,爆料人称iPhone 20 Pro里程碑设计

曲面玻璃视频疯传,爆料人称iPhone 20 Pro里程碑设计

报错免疫体
2026-11-17 23:20:24
美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

美以伊局势:美军再袭伊朗格什姆岛;特朗普:正认真对待伊朗或在华盛顿引爆脏弹的消息;伊朗称打击巴林的美军雷达系统,美军否认被击中

极目新闻
2026-11-18 07:16:44
脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

脚踝骨折,确认报销!开拓者再遭重创,西部夺冠格局再起悬念

林子说事
2026-11-18 13:52:03
国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

国家免费电视信号已开放,简单调下电视,不用再交有线电视月租

江启
2026-11-06 23:36:07
网上爆火的山姆包到底多好用?我们替你测了个遍

网上爆火的山姆包到底多好用?我们替你测了个遍

酷玩实验室
2026-11-18 10:49:05
英伟达,突然直线拉升!

英伟达,突然直线拉升!

证券时报
2026-11-18 18:43:03
一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

极目新闻
2026-11-16 10:06:42
探访墨西哥总统打卡过的深圳餐厅,主理人:客流翻了几倍,即将推出同款“总统套餐”

探访墨西哥总统打卡过的深圳餐厅,主理人:客流翻了几倍,即将推出同款“总统套餐”

极目新闻
2026-11-18 21:03:17
AI演员一句“戴了一天很舒服”,被罚6.8万元

AI演员一句“戴了一天很舒服”,被罚6.8万元

凤凰网财经
2026-11-17 00:22:30
莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

莱昂纳多52岁庆生派对曝光,一车的妖娆女模到场,引发争议

译言
2026-11-17 08:31:18
太阳报:斯科尔斯女儿因伤无缘无板篮球世界杯,心碎发文

太阳报:斯科尔斯女儿因伤无缘无板篮球世界杯,心碎发文

懂球帝
2026-11-18 20:36:46
一旦恢复该规定,中国结婚率或将大幅上涨,离婚率也会有所下降

一旦恢复该规定,中国结婚率或将大幅上涨,离婚率也会有所下降

福建睿平
2026-10-28 07:23:25
阿里员工:P7在杭州相亲市场地位大不如以前了。看中两个女生,一个护士,一个教师,联系方式都没给

阿里员工:P7在杭州相亲市场地位大不如以前了。看中两个女生,一个护士,一个教师,联系方式都没给

蚂蚁大喇叭
2026-11-18 16:37:48
陆毅18岁女儿贝儿官宣签约百沐娱乐,正式以歌手出道!一波星二代扎堆涌来

陆毅18岁女儿贝儿官宣签约百沐娱乐,正式以歌手出道!一波星二代扎堆涌来

露珠聊影视
2026-11-18 14:36:57
刚刚!苹果新品突然上架,真的心动啊

刚刚!苹果新品突然上架,真的心动啊

科技堡垒
2026-11-18 08:00:35
从全美五星到四年四队!格雷姆斯47分之夜,拯救湖人也证明了自己

从全美五星到四年四队!格雷姆斯47分之夜,拯救湖人也证明了自己

林小湜体育频道
2026-11-18 16:21:42
96分钟绝杀,哈兰德双响导演大逆转!0-2到3-2,挪威奇迹晋级8强

96分钟绝杀,哈兰德双响导演大逆转!0-2到3-2,挪威奇迹晋级8强

我的护球最独特
2026-11-18 05:52:43
2026-11-19 00:23:00
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16711文章数 67239关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

头条要闻

“感谢中方特殊安排” 特朗普又带着高规格代表团来了

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

主持人张泉灵被曝猛料,公司成老赖

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

时尚
手机
房产
公开课
军事航空

穿好“长大衣”,这8个细节很重要!

手机要闻

2nm双芯悬案!vivo X Fold7不跟风阔折叠,先把散热账算明白了

房产要闻

周大生出手!海棠湾又一大商业体来了

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版