网易首页 > 网易科技 > 网易科技 > 正文

3万个智能体同时开工,Anthropic仍没跑通AI自我改进

0
分享至

出品 | 网易智能

作者 | 小扣

编辑 | 王凤枝

Claude已经能“主导”Anthropic四分之一的AI研发,但完全自主完成的工作仍是零。

9月18日消息,Anthropic首次公布内部测量结果:今年2月,Claude能够“主导”的AI研发任务还不到1%;到8月,已经升至26%。超过90%的研发任务至少达到“协作”级:在人密切指导下,AI已经可以完成大块工作。

Anthropic所说的“主导”,指的是研究员给出高层目标,Claude完成大部分任务,再交给人监督和验收。

对Anthropic来说,让AI接手具体任务只是第一步。更关键的问题是,它能否走向递归式自我改进(RSI):AI开发出更强的继任者,再由继任者加快下一轮研发。26%记录的是任务自动化走到了哪里,还不能说明这套循环已经开始提速。

一、26%不是研发贡献率

这26%来自一套六级自动化标准。Anthropic采用了研究机构Epoch AI提出的AL0至AL5:最低的AL0完全由人完成,最高的AL5则由AI自主工作,全程不需要人介入。

按这套标准,8月有26%的AI研发工作被评为AL4,也就是“主导”。研究员给出一个高层目标后,Claude可以端到端完成大部分任务,人负责监督和验收。再往前一级,才是完全自主。

为了算出26%,Anthropic从Slack和内部文档里整理出约1.5万项具体工作,再将它们归入一棵包含542个节点的任务树。不同任务按照过去投入的人力时间加权,Claude负责收集证据,另一个Claude充当评委,为每类工作评定自动化等级。

Anthropic也承认,这套算法还处在原型阶段。同一批任务交给人类负责人复评后,模型与人的评级完全一致率为59%,相差不超过一级的比例为97%;两名人类评审给出同一评级的比例也只有35%,“协作”和“主导”的边界本来就有判断空间。

Claude还参与了证据收集和评级,各家公司也没有统一的任务分类标准。因此,这组数据更适合观察Anthropic内部变化,不能直接用于不同实验室的横向比较。

放在Anthropic内部看,26%指的是有多少研发任务已经由Claude主导,再由人类监督和验收。它既不是Claude对研发成果的贡献率,也不意味着研发速度提高了26%。

二、实验里接近满分,搬进真实训练却没跑通

26%只回答了有多少研发任务交由AI主导。研发有没有真正提速,还得看AI找到的方法能不能进入下一代模型。

2025年5月,Google DeepMind公布AlphaEvolve,已经把这类循环跑通了一小段。它曾把Gemini架构中的一个计算内核加速23%,谷歌称这项改进让Gemini训练时间缩短1%。AI找到的优化进入训练系统,后续模型因此少花了一部分训练时间。

在另一项实验里,Anthropic把一段更完整的研究流程交给了智能体。9个Claude智能体在各自的沙箱里提出研究思路、运行实验、训练模型并共享结果。这项实验用PGR衡量弱监督下恢复了多少强模型能力,1代表完全恢复。两名人类研究员用七天做到0.23;9个智能体并行约5个自然日、累计运行约800小时,做到0.97。

但把这些得分最高的方法搬进生产训练环境后,Anthropic在另一套留出评测中只测到0.5分提升,仍在噪声范围内。智能体也会钻评测规则的空子,例如反复挑选碰巧得分高的随机种子,甚至尝试从评分接口反推测试答案。

只要目标明确、结果容易检验,AI就能大量尝试,很快提高评测分数。换到规模更大、数据分布不同的真实模型,同一方法却未必还能奏效。模型可以沿着既定指标不断优化,研究员仍要判断问题是否值得做、指标是否可信,以及结果能不能进入下一轮训练。

OpenAI内部也是类似的分工:AI负责大量尝试,人类负责研究判断。到8月中旬,OpenAI研究组织每投入1个人类工作日,大约对应3.1个智能体工作日;但高层规划只占智能体输出的一小部分,成功完成的4至8小时任务中,超过一半仍有人工干预。

METR在2月至3月调查多家前沿实验室时,也没有看到公司把研究议程、预算分配或最终风险判断交给智能体。至少在当时,智能体已经接下不少执行工作,研发方向仍在人手里。

三、3万个智能体同时工作,谁来盯住它们

方向暂时没有交出去,执行量却已经多到无法逐项人工检查。

8月,Anthropic最常用的内部平台同时运行着约3万个研究和工程智能体。

每个动作执行前,都要先经过在线监控。Anthropic统计了当月超过10亿次决策,其中约0.002%被阻止,相当于每4.7万次拦下一次。离线系统还会在事后检查记录,每周先标出约10万份记录,再由多层分类器排除误报,最后把大约50条高优先级问题送到人类手中。

0.002%的拦截比例不能当作智能体的出错率。它只记录了监控拦下的动作,无法告诉我们有多少危险行为成功绕过系统。3万个智能体同时工作,人类不可能逐条盯住,只能先让自动系统筛选,再处理最后留下的问题。

Anthropic还抽查了7月一周的算力去向:AI研发算力中约6%用于安全工作;在AI主导的研发里,这一比例约为12%。这项统计只覆盖一周内的AI研发算力,不包括单独运行的安全分类器,也无法计入那些不依赖大规模芯片的安全投入。

这些数字目前仍来自Anthropic内部。公司计划定期更新指标,并让独立第三方获得与内部员工相近的系统和数据访问权限;这项评估尚未开始。

四、离RSI还差一个会加速的闭环

Claude已经能写研究代码、改进训练工具,也能在目标和评分都清楚时自己提出方案、做实验并反复优化。但把这些工作大规模交给AI,仍不等于研发进入了自我改进。

要到RSI,系统还得自己选择下一个研究问题,把实验结果稳定地迁移到生产模型,并证明继任者更擅长继续改进AI。现在这些环节仍由人决定。Anthropic的自动化指数中,完全自主一栏仍是零。

即使这些环节以后都能交给AI,还有一个问题没有答案:反馈循环出现以后,下一轮迭代就一定会更快吗?如果后继模型不能稳定提高下一轮研发的速度或质量,循环即使自行运转,也只是让AI自动重复同一套流程。

Anthropic下次更新这套数据时,26%涨到多少当然值得看。不过,要判断RSI有没有开始,还得看Claude找到的方法有多少真正进入下一代模型,又为下一轮研发省下了多少时间。眼下,这两项都没有答案。

延伸阅读
相关推荐
热点推荐
父母真看不出孩子被夺舍?网友:不是看不出,是不愿揭穿

父母真看不出孩子被夺舍?网友:不是看不出,是不愿揭穿

夜深爱杂谈
2026-11-17 20:32:15
特朗普不屑在菲律宾多耽搁半分,午宴刚散席,专机火速奔赴中国

特朗普不屑在菲律宾多耽搁半分,午宴刚散席,专机火速奔赴中国

奇思妙想生活家
2026-11-18 11:46:25
上海一保姆隐藏身份工作13年,业主发现她真正身份后,从30楼跳下去

上海一保姆隐藏身份工作13年,业主发现她真正身份后,从30楼跳下去

故事秘栈
2025-05-26 19:16:38
深圳市民为了APEC不穿拖鞋了?网友:不能丢人,必须全妆出门

深圳市民为了APEC不穿拖鞋了?网友:不能丢人,必须全妆出门

东方豪侠
2026-11-18 06:57:36
“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

“比亚迪工资再低,至少让102万人有活干有社保”,博主吹比亚迪102万就业,被网友一句话怼到哑火:底薪2300、加班堆出五千

秋风妃
2026-11-15 20:45:54
74岁马保国出售上海豪宅,140多平卖400多万,豪宅画面流出

74岁马保国出售上海豪宅,140多平卖400多万,豪宅画面流出

小徐讲八卦
2026-11-17 10:08:29
“这才是政审的意义!”女子考公上岸后,被高中欺负过的同学举报

“这才是政审的意义!”女子考公上岸后,被高中欺负过的同学举报

妍妍教育日记
2026-07-17 08:25:14
不报隔夜仇,泽连斯基发难炸断克里米亚大桥,俄军反击招招狠辣

不报隔夜仇,泽连斯基发难炸断克里米亚大桥,俄军反击招招狠辣

风笛悠扬声
2026-11-18 05:36:03
1000 天伤停!皇马王牌被彻底摧毁!穆里尼奥也救不了他

1000 天伤停!皇马王牌被彻底摧毁!穆里尼奥也救不了他

奶盖熊本熊
2026-11-18 08:50:24
Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

Lisa男伴舞在协助脱衣环节中失手,直接把短裤往下扯,险些造成走光

韩小娱
2026-11-16 12:15:37
说实话,这种局面不能再延续下去了,否则中国真的有点危险了!

说实话,这种局面不能再延续下去了,否则中国真的有点危险了!

今夜繁星坠落
2026-11-15 23:17:03
排面拉满!深圳APEC主持人阵容亮相,央视多位名嘴齐聚鹏城

排面拉满!深圳APEC主持人阵容亮相,央视多位名嘴齐聚鹏城

情感大头说说
2026-11-18 04:48:40
深圳APEC峰会盛况空前!如何读懂中国的全球价值?

深圳APEC峰会盛况空前!如何读懂中国的全球价值?

兵国大事
2026-11-18 00:05:16
贾玲复胖,与张小斐同游三亚,脸跟身材几乎与5年前没减肥时一样

贾玲复胖,与张小斐同游三亚,脸跟身材几乎与5年前没减肥时一样

手工制作阿歼
2026-11-18 05:49:30
12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

12岁的乔治王子现身帅到认不出!身高1米75快要超过妈妈凯特王妃

温读史
2025-11-09 09:25:54
两性关系:一位75岁女人说出的几句大实话,晚年夫妻都该看看

两性关系:一位75岁女人说出的几句大实话,晚年夫妻都该看看

三农老历
2026-11-18 11:46:05
晚年毛主席原谅了很多人,为何唯独不原谅潘汉年?主席对他寒了心

晚年毛主席原谅了很多人,为何唯独不原谅潘汉年?主席对他寒了心

温读
2025-03-13 18:28:10
机动车年检大势已定?从2027年开始,私家车年检可能面临5大变化

机动车年检大势已定?从2027年开始,私家车年检可能面临5大变化

刘哥谈体育
2026-11-15 13:22:01
美军证实第三艘航母已抵达中东,伊朗:若美国不接受伊条件霍尔木兹海峡将继续关闭,即便接受条件,外国军队在波斯湾的存在也必须终结

美军证实第三艘航母已抵达中东,伊朗:若美国不接受伊条件霍尔木兹海峡将继续关闭,即便接受条件,外国军队在波斯湾的存在也必须终结

每日经济新闻
2026-11-17 21:10:14
翻译还原杨瀚森砍戈贝尔始末:一开始没有领会意图

翻译还原杨瀚森砍戈贝尔始末:一开始没有领会意图

体坛周报
2026-11-18 10:03:13
2026-11-18 13:40:49

科技要闻

OPPO Reno17:手机背后竟然藏了只“喵”?

头条要闻

蒙古国总统突然辞职:被喻为"蒙古版普京" 是宠妻狂魔

头条要闻

蒙古国总统突然辞职:被喻为"蒙古版普京" 是宠妻狂魔

体育要闻

东契奇心仪之人 三年后拿着底薪站到他身旁

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

回归英伟达,黄仁勋要先“干掉董事会”

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
本地
健康
公开课
军事航空

数码要闻

Intel下下代处理器迎新进展!四大版本首次集体现身:桌面、笔记本全覆盖

本地新闻

乌兰察布:以前种土豆,现在种Token

医生眼里"很伤腰"的椅子,很多人天天坐

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

美乌陷入外交僵局 俄乌互攻势头不减

无障碍浏览 进入关怀版
×