网易首页 > 网易号 > 正文 申请入驻

AI治理框架趋同,为何仍缺失声誉评价层?

0
分享至

假设你要雇佣一个AI代理去抓取电商数据,你会看什么?是检查它的数字身份证,让它签署一份政策承诺,还是翻翻它的“作品集”和过往雇主给的评分?

目前几乎所有的代理治理框架都选择了前两条。最近一周,AI治理赛道呈现出明显的趋同势头,多个重量级玩家同时押注权限控制和安全沙箱,但那个最接近人类雇佣逻辑的“声誉参考层”仍然大面积缺席。

微软率先发布了Project Perception,并宣布联手NVIDIA等产业伙伴共同创立Open Secure AI Alliance。该项目直指AI安全,从身份验证到运行时授权,试图用一套标准化的围墙把代理的行为锁死。同一时间,IDC的一份报告让这个方向的商业重要性变得直观:企业在AI治理上的开支已经占到整体AI预算的约17%,规模堪比核心基础设施投入。钱是投进去了,但效果如何?Kiteworks发布的一项调查显示,当前企业AI治理成熟度平均得分仅为35分(满分100),部署速度远远跑在了能力建设前面。

IT Security Guru则把2026年定位为安全逻辑的转折点:从“保护AI模型”转向“保护AI驱动的数字劳动力”。这个判断本身没有问题,因为它精准描述了当下产业的兴奋点——代理不再只是工具,它们正在成为一支需要被管束、被支付、被审计的劳动力大军。然而,当我们顺着这个思路审视已经成型的治理堆栈时,会发现几乎所有架构都在反复回答同一个问题:“这个代理被允许做什么?”

身份与认证层(涉及ERC-8004、去中心化标识符DIDs、FIDO Verifiable Intent等技术方向)负责证明代理是谁。这一步不可或缺,但身份只解决“它是不是它”,完全不涉及“它能不能干”。一个代理完全可以是合法注册的,同时上次任务交付得一塌糊涂。治理与控制框架层(包括微软的代理治理工具包、NVIDIA参与的Open Secure AI Alliance、Workato的代理护栏等)定义代理可以调用哪些接口、读写哪些数据、遵守哪些策略,并留下了审计轨迹。它把安全边界划得很清楚,但告诉你的始终是限制条件,而非交付质量。支付层(x402协议、Coinbase的代理钱包、MoonPay PayBox、万事达卡的Agent Pay等)负责授权和结算,一笔交易走完,只能证明资金流动完成,并不能证明对方交付的东西有没有价值。托管与可编程结算层(类似ERC-8183的思路)在承诺和交付之间锁住资金,确保双方约定得到执行,但它仍然只验证“工作是否被提交”,不衡量“工作做得好不好”。

每一层都是必要的。没有任何一层可以被省去。但把它们拼在一起,仍然缺少一个人类在真实雇佣中不可能省略的环节——打听一下这个人以前干得怎么样。

在现实世界里,我们招聘时不会只看对方的身份证和有无犯罪记录。我们会要推荐人,会问:这个人之前做成过什么事?那些结果靠谱吗?以结果为导向的声誉,正是代理世界里尚未被系统化建设的那一层,而且它理应坐在身份、治理、支付的上方,而不是被塞进某个底层模块。当然,要让结果声誉真正有价值,必须有一个前提:底层的交互记录、交易对手以及纠纷仲裁流程要足够难伪造。换言之,防女巫攻击的机制不是附加品,而是声誉系统能够成立的前置工程条件。

一旦这个声誉层被搭建起来,终端用户看到的交互模式会变得非常直观:一个代理在链上发布服务清单——“我可以抓取并结构化任何电商网站的产品数据”。另一个代理通过Base链上的USDC托管合约雇佣它。工作完成,验证通过,雇主代理给出一个结果评级。这个评级会成为一个可携带的声誉签名,跟随该代理进入下一次招标。届时,任何潜在雇主无需再次翻看冗长的代码审计报告或安全策略文档,只需扫一眼其在过去数百次任务中积累的评价,就能快速做出是否下单的判断。

这就是Outcome Reputation与现有治理框架最根本的区别:治理解决的是安全性问题,声誉解决的是可信任度问题。两者并不互斥,但它们瞄准的方向完全不同。当前产业把大量资源投入到了前者,以至于市场和工程团队普遍产生了一种认知偏差——只要代理被锁得足够死,执行过程足够可审计,问题就解决了。而对声誉层的忽视,恰恰会导致一个悖论:当越来越多的代理戴上镣铐被放入生产环境后,人们会发现,尽管它们什么都没违反,却也什么都没交付好。

微软、NVIDIA、IDC、Kiteworks、IT Security Guru等机构给出的信号清晰一致:代理经济的基础设施正在高速收敛。在身份、治理、支付、托管这四根支柱全部被加固之后,治理框架的下一步进化,很可能不是继续加厚权限控制的围墙,而是向上回答那个至今无人给出标准化方案的问题——这个代理以前到底干成过吗?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
卢卡库接近告别那不勒斯

卢卡库接近告别那不勒斯

体坛周报
2026-08-01 20:49:32
一忍再忍,无须再忍!八一当天,解放军在黄岩岛“动手了”

一忍再忍,无须再忍!八一当天,解放军在黄岩岛“动手了”

云上乌托邦
2026-08-01 20:15:09
2026教师严查风暴来袭,大数据追踪,这5种行为千万别碰

2026教师严查风暴来袭,大数据追踪,这5种行为千万别碰

细说职场
2026-08-01 15:18:29
成本126元卖3280,比茅台还暴利,多少中国父母被忽悠瘸了?

成本126元卖3280,比茅台还暴利,多少中国父母被忽悠瘸了?

李砍柴
2026-07-30 23:00:03
曼联vs马竞首发名单

曼联vs马竞首发名单

MUREDS
2026-08-01 19:53:36
日本男星集体劣化?!清爽美少年变冲绳大妈、帅气型男变胡须大叔、童颜男神变发福熊大…

日本男星集体劣化?!清爽美少年变冲绳大妈、帅气型男变胡须大叔、童颜男神变发福熊大…

东京新青年
2026-07-31 19:34:44
1998年数万华人遭屠杀,中国为何没出兵?26年后答案让人沉默

1998年数万华人遭屠杀,中国为何没出兵?26年后答案让人沉默

哄动一时啊
2026-02-17 22:21:25
BYD海獭在日本砍下万台订单,中国电车攻破日本K-Car壁垒

BYD海獭在日本砍下万台订单,中国电车攻破日本K-Car壁垒

娱乐圈的笔娱君
2026-07-31 03:27:33
张柏芝万万没想到,拼命护住隐私的小儿子生父,还是被谢贤牵连了

张柏芝万万没想到,拼命护住隐私的小儿子生父,还是被谢贤牵连了

阿纂看事
2026-07-31 13:47:56
中国存款大势已定?若一切正常,明后年,居民储蓄或要变天了!

中国存款大势已定?若一切正常,明后年,居民储蓄或要变天了!

史之铭
2026-07-31 19:00:21
江苏连云港一住宅起火,母女为避险坠楼 消防回应:事发地无救援设备铺设、作业条件,床单被褥接救未成功

江苏连云港一住宅起火,母女为避险坠楼 消防回应:事发地无救援设备铺设、作业条件,床单被褥接救未成功

封面新闻
2026-08-01 08:58:08
挤走董卿、靠家世上位?“央视穷鬼”龙洋,私生活谣言有多离谱

挤走董卿、靠家世上位?“央视穷鬼”龙洋,私生活谣言有多离谱

枯蝶
2026-08-01 20:08:55
“最惨星二代”廖凡,出道25年从不拼爹,妻子是周星驰的黄金搭档

“最惨星二代”廖凡,出道25年从不拼爹,妻子是周星驰的黄金搭档

生性洒脱
2026-07-31 02:27:10
43岁胡歌现状:身家上亿,儿女双全早已是人生赢家,老婆霸气护夫

43岁胡歌现状:身家上亿,儿女双全早已是人生赢家,老婆霸气护夫

娱说瑜悦
2026-07-31 23:05:03
59岁绿化工人工作群留遗言后坠亡,群内无人回复劝解,家属称遭主管指责越级汇报并排挤

59岁绿化工人工作群留遗言后坠亡,群内无人回复劝解,家属称遭主管指责越级汇报并排挤

大风新闻
2026-07-31 20:55:03
潘石屹离岸信托遭新政补税,20亿起步,美籍老婆也不能逃税务追缴

潘石屹离岸信托遭新政补税,20亿起步,美籍老婆也不能逃税务追缴

冰语历史
2026-07-30 11:07:57
格伦·汉萨德于7月29日去世。

格伦·汉萨德于7月29日去世。

手工制作阿歼
2026-08-01 13:34:39
直逼40℃!安徽持续大范围高温

直逼40℃!安徽持续大范围高温

安徽发布
2026-08-01 15:00:56
戴笠拥有178套洋房,十几万两黄金!蒋介石得知后,当场暴怒!

戴笠拥有178套洋房,十几万两黄金!蒋介石得知后,当场暴怒!

凡人侃史
2026-08-01 16:35:26
男子成家后倾尽十万积蓄开理发店,开业连日无人进店,夫妻守店崩溃落泪

男子成家后倾尽十万积蓄开理发店,开业连日无人进店,夫妻守店崩溃落泪

捣蛋窝
2026-07-27 13:43:35
2026-08-01 21:44:49
我是一个养虾人
我是一个养虾人
有态度网友ytd
348文章数 65关注度
往期回顾 全部

科技要闻

特斯拉拆不掉中国制造

头条要闻

31岁网文作者剖腹产次日突发重病 成"半植物人"近半年

头条要闻

31岁网文作者剖腹产次日突发重病 成"半植物人"近半年

体育要闻

蔡崇信夫妇决定离婚!结束30年婚姻

娱乐要闻

韩路批董宇辉“又当又立”?

财经要闻

长鑫科技四万亿市值背后的资本与周期

汽车要闻

限时17.99万元 全新一代天工08 670 Max正式上市

态度原创

旅游
艺术
数码
公开课
军事航空

旅游要闻

解锁暑期消费新范式 “夏日经济”提质升级

艺术要闻

373米!40亿美元!纽约世贸中心2号塔楼恢复施工

数码要闻

AMD Radeon RX 9050首测出炉:能效比突出、整机功耗比RTX 5050低35W

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美军F-35隐形战机坠毁 飞行员弹射逃生

无障碍浏览 进入关怀版