网易首页 > 网易号 > 正文 申请入驻

Offchain Labs:用抽查替代完整证明,AI推理验证时间从15分钟降至毫秒级

0
分享至

当你调用一个模型API时,你其实是在和一份无形的合同打交道——你付了钱,对方承诺会运行你指定的模型。但直到现在,你根本没有任何手段去核实,GPU里奔腾的字节流,到底是不是你花钱买的那款大模型。这份信任的代价有多高?一篇2026年3月来自Offchain Labs的论文交出了一个关键答案:把推理验证的证明生成时间,从每次查询的15分钟左右,直接压到了毫秒级别。而对Arbitrum工作原理有所了解的人,会立刻从这个方案的路径里嗅到熟悉的气息。

信任缺口不是危言耸听。按Token计费的商业模式,天生就内置了一把作弊的尺子。运行一个700亿参数的大模型,成本远高于跑一个70亿参数的版本,而量化推理又比全精度推理便宜得多。如果某个服务商能在峰时将一部分请求偷偷路由到更小或更便宜的模型上,却依然按首屏标出的价格计费,省下的成本在规模化之后会是一笔惊人的数字。斯坦福大学的研究者已经证实,GPT-3.5和GPT-4在2023年3月到6月之间,即便是在同样的评测任务上,行为也出现了可测量的漂移。后续的一系列工作更是把在LLM API中检测模型偷梁换柱这件事,提炼成了一个正式的问题。这并非对哪个具体提供商的指控,而是直指一个根本性的结构缺陷:当下的API合约,没给你留下任何用于弄清楚的机制。


对个人开发者而言,这或许只是恼人的杂音。但对于受监管的行业、对于需要审计的模型治理团队、对于正在成型的代理之间自动结算的机器经济层来说,这个缺口足以撕裂整个体系的承重墙。自动驾驶、医疗审批、金融风控,任何一处由未经核实的大模型做出的决策,都可能因为模型版本、精度或结构的悄然替换,累积出无法追溯的风险。没有可验证的推理,就没有可靠的责任归属,而此刻成千上万个自主代理正在协议层互相发现、协商和交易,它们比人类更需要一套轻量、高速、不可抵赖的证明系统。

密码学其实早已备好了工具箱。同一族被零知识卷叠所用到的证明方案,理论上可以证明一个服务器正确执行了某个计算,而客户端完全无需重跑一遍——只需在响应中附上一个证明,客户端用原始计算量的零头就能完成验证。把这套工具搬到AI推理上,似乎是水到渠成的事。可惜数学上的完美,撞上了工程数字的冰冷现实。最前沿的方案,比如zkLLM,给一个130亿参数的LLM生成一份推理证明,需要大约15分钟。对于更小的Llama-2-70亿参数模型,公开报告的数据是每次查询388秒的证明时间,183KB的证明文件,以及2.36秒的验证耗时。在原型研究里,这些数字完全正当,但在一个期望亚秒响应的线上API面前,15分钟就意味着一场灾难。推理本身的速度极快,用户已经习惯了即时反馈,任何额外延迟都会立刻变成系统瓶颈。

Offchain Labs论文选择了一条不同的路。它不再试图去加密证明神经网络内部的每一次乘法和加法,而是换了一个更“偷懒”却巧妙得多的赌法:服务器提前对两样东西做出承诺——一样是模型权重的指纹,在训练结束后只发布一次;另一样是模型在回答某个具体查询时产生的内部中间值的指纹。然后,客户端在靠近输出的随机位置挑一个点,只检查那一个点的计算结果是否与承诺的指纹吻合。这就像审计师不去翻阅整年的每一张发票,而是在报表上抽样一笔交易,只要抽查能通过,就认定整体可信。通过这样的“抽查”逻辑,整个证明生成的负担被削掉了绝大部分,于是毫秒级验证才真正有了落地的可能。

这种思路与Arbitrum的乐观汇总设计异曲同工。在Arbitrum的框架里,交易默认有效,由挑战者周期性地提交故障证明来揪出作恶者。Offchain Labs的方案则把赌注押在了概率上:只要抽查的随机性由客户端掌握,且抽查位置无法被服务端预判,那么一次成功的作弊要想始终躲过抽查,其难度会随着抽查点多到让经济上变得无利可图。换句话说,它并没有追求无限接近100%的理论安全,而是把安全锚定在统计学和经济学的现实里,以毫秒级的轻量成本挡住绝大多数的欺骗企图。

毫秒,是一个值得拆解的时空坐标系。当证明生成从15分钟——也就是900秒——被压缩到毫秒量级,这接近三个数量级的飞跃并不是单纯的性能调优,而是一次可行性边界的重绘。在此之前,任何将密码学验证嵌入实时对话AI链路的构想,都只能停留在PPT里。而现在,智能体之间的交易协议完全可以把这种抽查证明作为结算凭据,让一个代理调用另一个代理的推理服务后,在瞬间完成可信查验,而不必等待一场电影结束。对需要外部审计的合规场景,留存的指纹和抽查记录也第一次提供了可追溯的、无需暴露原始数据的验证链条。

但这并不意味着所有的信任困境都一劳永逸了。抽查模型天然地将一部分安全交给了随机性,理论上一个极度聪明、且愿意承受小概率失败风险的攻击者,仍有可能在特定查询中完成替换而不被查到。只不过在代理经济的大样本交易流中,任何成规模作弊的期望收益都会被反复的抽查迅速摊薄。更值得警惕的反倒是“承诺指纹”本身的发布机制——假如模型权重指纹只在训练后发布一次,那么后续任何细颗粒的微调、持续的模型更新,都需要一套额外的证书管理流程来同步更新指纹,否则旧的指纹反而会变成掩护灰盒操作的幕布。

放眼整个代理经济的生长图景,推理验证的轻量化,补齐的恰恰是机器与机器之间自动结算的最后一环。当一个采购代理决定花费预算去调用某个推理服务来完成合同审查,或者当一个DeFi策略代理依赖外部模型做市场预测时,它需要的不仅是准确的结果,还需要一块不可伪造的收据。Offchain Labs的这项工作,向行业展示了一张可能的设计图:把证明成本降到和API请求本身一个数量级,让可信变成可在秒级内交割的标准品。沿着这个方向走下去,未来的代理市场或许会多出一个新指标——不仅比较每百万Token的价格,还要比较每毫秒验证的可信度。

从更广的视角看,轻量验证成了AI基础设施里一块突然

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
皇室内部人士曝查尔斯首席顾问辞职:哈里以为能和解,实则失望

皇室内部人士曝查尔斯首席顾问辞职:哈里以为能和解,实则失望

热搜摘要官
2026-07-30 01:08:48
8.88万起!比亚迪新车正式上市

8.88万起!比亚迪新车正式上市

高科技爱好者
2026-07-28 23:59:15
震惊全网!仙桃电梯打人事件,最让人毛骨悚然的,不是母亲教唆孩子“帮我打她”,是打败之后她还在怒斥孩子

震惊全网!仙桃电梯打人事件,最让人毛骨悚然的,不是母亲教唆孩子“帮我打她”,是打败之后她还在怒斥孩子

火山詩话
2026-07-29 07:10:54
恭喜C罗!世界杯结束仅一周,C罗传来喜讯

恭喜C罗!世界杯结束仅一周,C罗传来喜讯

泥说体育
2026-07-29 23:24:22
美国发话也不行,中方曾正式通告全球:打日本中国具备“正当性”

美国发话也不行,中方曾正式通告全球:打日本中国具备“正当性”

跨服解说家
2026-07-29 05:42:25
和老板聊天的神回复有哪些?网友:老板娘牛逼!

和老板聊天的神回复有哪些?网友:老板娘牛逼!

解读热点事件
2026-07-28 00:05:11
69岁赵本山三亚养老曝光,每日两包烟八两酒,和杨少华一模一样

69岁赵本山三亚养老曝光,每日两包烟八两酒,和杨少华一模一样

手工制作阿歼
2026-07-27 10:27:02
宏远速递!陈老板公布新任命,胡明轩最新消息,黄明依回国续约

宏远速递!陈老板公布新任命,胡明轩最新消息,黄明依回国续约

多特体育说
2026-07-29 22:19:58
布克和新女友近照,合同还剩2.5亿,她40岁了,曾和C罗热恋

布克和新女友近照,合同还剩2.5亿,她40岁了,曾和C罗热恋

大西体育
2026-07-29 11:54:13
快讯!中国 “养出白眼狼“ 了?

快讯!中国 “养出白眼狼“ 了?

故事终将光明磊落
2026-07-29 11:00:02
32岁国足散步帝拒付前妻150万+每月6千抚养费 沦为失信被执行人

32岁国足散步帝拒付前妻150万+每月6千抚养费 沦为失信被执行人

念洲
2026-07-29 14:13:50
天津女子修手机40多张私密照被导出!拒绝和解:报警、起诉、举报

天津女子修手机40多张私密照被导出!拒绝和解:报警、起诉、举报

听心堂
2026-07-29 17:01:47
人民锐评:“王的猜想”击中了坚守的自我

人民锐评:“王的猜想”击中了坚守的自我

极目新闻
2026-07-29 18:58:49
切尔西四年首破规矩,为35岁维尔贝克掏转会费

切尔西四年首破规矩,为35岁维尔贝克掏转会费

元气满分吖
2026-07-30 01:37:30
2026几乎“零差评”的三款2000档手机,建议买前了解下,性价比都很高

2026几乎“零差评”的三款2000档手机,建议买前了解下,性价比都很高

北境不忘
2026-07-28 10:23:29
女人动情后,这三个“失控”的暗示,比说爱你更准

女人动情后,这三个“失控”的暗示,比说爱你更准

娱乐洞察点点
2026-07-13 07:45:56
奥迪Q9正式发布:5.31米车长+2.21米车宽,德系最大SUV来了

奥迪Q9正式发布:5.31米车长+2.21米车宽,德系最大SUV来了

答答买车
2026-07-29 15:15:23
美国一男护士被登山杖刺穿身体,拒绝昂贵的直升机救援,徒步16公里历时6.5小时下山;目前登山杖已被外科医生取出

美国一男护士被登山杖刺穿身体,拒绝昂贵的直升机救援,徒步16公里历时6.5小时下山;目前登山杖已被外科医生取出

大风新闻
2026-07-28 16:25:04
女子考上大学,后妈不让上,舅舅资助5万,9年后舅妈打电话:舅舅治病要40万,借我点。女子:什么借不借的,没有当年5万,就没有现在的我

女子考上大学,后妈不让上,舅舅资助5万,9年后舅妈打电话:舅舅治病要40万,借我点。女子:什么借不借的,没有当年5万,就没有现在的我

背包旅行
2026-07-29 11:26:37
美通缉重犯居然在华东师范大学任教十余年没被发现,就因为长得帅?

美通缉重犯居然在华东师范大学任教十余年没被发现,就因为长得帅?

夏夏回来了
2026-07-27 15:47:59
2026-07-30 02:11:00
固件更新中
固件更新中
有态度网友ytd
357文章数 64关注度
往期回顾 全部

科技要闻

Kimi K3火爆,奥特曼:开源一定有一席之地

头条要闻

男女酒后驾车坠河身亡女子家属索赔近200万 法院判了

头条要闻

男女酒后驾车坠河身亡女子家属索赔近200万 法院判了

体育要闻

毫无存在感的NBA状元,最先谢谢惠顾?

娱乐要闻

55岁影帝黄政民出轨

财经要闻

天丝红牛多地检出成分不合格 企业申诉

汽车要闻

MG 07预售12.59万起 高阶版配激光雷达+CDC

态度原创

本地
时尚
艺术
公开课
军事航空

本地新闻

跟着影视去旅行:八仙篇

第一批被打印机逼疯的家长,出现了

艺术要闻

皇家院士晚节不保?一幅湿漉漉的街景,差点毁掉他一生清誉!

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美以领导人会晤后 伊朗发射多枚导弹突袭驻中东美军

无障碍浏览 进入关怀版