网易首页 > 网易号 > 正文 申请入驻

刚刚,Anthropic公开内部RSI落地方法论

0
分享至

Anthropic 公开一套内部研发自动化方法论,用 AL0 到 AL5 衡量 AI 在研发中的参与度。截至 2026 年 8 月,Claude 已在约 26% 的 AI 研发工作中处于主导,内部平台同时运行约 3 万个 Agent,并从辅助写代码走向实验运行。

Anthropic 公开了一套内部 AI 研发自动化方法论:用 AL0 到 AL5 衡量 AI 在研发工作中的参与程度,同时对数万个 Agent 进行在线和离线监控。

截至 2026 年 8 月,Claude 已在约 26% 的 AI 研发工作中处于“AI 主导”状态,超过 90% 的任务至少进入 AI 协作阶段。更有冲击力的是,Anthropic 内部常用平台上同时运行约 3 万个 Agent,8 月产生了超过 10 亿次决策。

这还不是 AL5 的完全自主研发。真正值得关注的是,AI 从“辅助写代码”进入了问题调查、实验运行、评测和下一代模型研发流程。


AL0 到 AL5:怎样衡量研发自动化

Anthropic 采用六级自动化量表:

等级 含义 人类角色 AL0–AL2 无 AI、少量帮助、AI 辅助 人类完成主体工作 AL3 AI 协作 人类密切指导,AI 完成大块工作 AL4 AI 主导 人类给出高层目标,AI 端到端推进 AL5 完全自主 AI 自己发现、修复、测试和部署

当前最重要的是 AL4。比如夜间数据管道发生故障,AL3 需要工程师查日志、判断原因后再交给 Claude;AL4 则只需把告警交给 Claude,让它自行查日志、定位问题、改代码、测试、重跑管道并写故障说明,最后由人决定是否上线。

AL5 则连“发现故障并叫 Claude 来修”都由 AI 完成。目前没有被测量的研发工作达到 AL5,因此 26% 不等于四分之一的研发已经无人管理。


26% 的斜率比绝对值更重要

进入 AL4 的研发工作在 2026 年 3 月还只有 1%,4 月 3%,5 月 12%,7 月 22%,8 月达到 26%。半年内从接近零增长到四分之一,这个斜率比单个时点的比例更值得关注。

同时,Claude 已经贡献 Anthropic 超过 80% 的合入代码。但代码量并不等于研发自动化,工程师仍然要决定问题、架构和方向。

研发自动化指数的意义,是衡量人类还需要在研发循环中做多少事。Anthropic 从 Slack 和研发文档中抽取任务,整理出约 1.5 万项模型研发工作,并拆成 542 个节点,再由 Agent 调查哪些步骤由人完成、哪些步骤已经交给 AI。

这种方法比“AI 写了多少代码”更接近真实自动化程度,因为研发还包含问题发现、实验设计、评测、故障分析和结果判断。


3 万 Agent 如何被监督

大规模 Agent 系统不能只依靠人类抽查。Anthropic 采用在线和离线两层监控:

监控层 作用 规模 在线 Monitor 在动作执行前拦截危险行为 100% 动作经过检查,通常几秒内完成 离线 Monitor 事后分析完整记录并升级高风险案例 每周标记约 10 万条记录,约 50 条升级人工

2026 年 8 月,超过 10 亿次决策中约 0.002% 被在线系统拦截。这个比例不能简单理解为“风险很低”,因为 Agent 数量越多,极低比例也会产生大量真实事件。

因此,平台必须同时关注覆盖率、审查延迟和升级率。不可逆的外发、凭证复制和高权限操作需要提前拦截;偏差、失准和长期行为则适合通过离线日志审查。


RSI 的关键瓶颈是评估器

递归自我改进不是“模型写了更多代码”,而是模型能够提出改进方向、修改训练或推理流程、运行实验、独立验证结果,并把有效改动带入下一轮。

这也是 RSI 综述把“自我评估”单独列为核心类别的原因。每一条自我改进环路,本质上都在声明:某个信号可以替代人类判断。评估器质量就是这条环路的上限。

可以把验证信号分成几层:程序是否执行成功、测试是否通过、规则是否满足、模型裁判是否认可、真实用户是否受益。越靠近真实结果,信号越可靠;越靠近模型自评,成本越低,但越容易被奖励投机。

Anthropic 让 Claude 研究任务、Claude Agent 调查证据、Claude Judge 做最终评级,本质上属于“模型评估模型”。如果生成器与评估器共享过多能力,可能形成自我确认循环,因此需要人类抽样、独立验证集和第三方校验。


有界改进和开放式 RSI

当前大量工业实践属于有界自我改进:目标、评测标准和任务范围固定,模型在可验证反馈下优化代码、策略或工具调用。

开放式 RSI 则更进一步:模型连改进标准本身也可以修改,理论上可能形成不断扩张的递归循环。两者不能混为一谈。

对于企业 Agent,先做好有界改进更现实:固定任务集、固定验收标准、不可修改的评测服务、完整审计、人工发布门槛和可回滚环境。没有这些基础设施,放开 Agent 权限只会让错误更快扩散。


给开发团队的落地建议

可以把这套方法论转成四个工程指标:

  1. 任务自动化等级:从 AI 辅助到 AI 主导,边界要可描述;
  2. Agent 监控覆盖率:每次工具调用、文件变更和外部操作都要留痕;
  3. 评估器可靠性:用独立样本和人工抽样检查自动评分;
  4. 人工接管机制:高风险动作、低置信度结果和异常循环必须转人工。

国内开发者需要在 Claude Code 或其他兼容 Agent 中接入模型服务时,可以通过 Code80 配置 endpoint:

$env:ANTHROPIC_BASE_URL = “https://code.ai80.vip” $env:ANTHROPIC_AUTH_TOKEN = “<你的 API Key>” claude

模型可以越来越自主,但团队不能把目标定义、评估标准和发布权限一起交出去。


常见问题

26% 的 AI 主导研发代表什么?

它代表部分研发任务达到 AL4:人类给出高层目标,AI 推进大部分工作;不代表这些任务完全无人监督,也不代表 AL5 已经实现。

为什么评估器是 RSI 的瓶颈?

自我改进需要判断某次改动是否有效。若评估信号不可靠,模型可能优化测试表面指标,甚至形成自我确认循环。

企业 Agent 应该直接追求 AL4 吗?

应该先在低风险、边界清晰的任务中建立有界自动化,补齐日志、评测、审批和回滚,再逐步扩大 Agent 的自主范围。

如何接入 Claude Code?

可以通过兼容 API 配置 endpoint,并将模型、工具、权限和验收逻辑分开管理。国内用户可通过 Code80 便捷接入。

题图来自 Unsplash,基于 CC0 协议

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
“吃相,长相到面相,没一个顺眼的!”宝妈晒女儿吃饭被骂惨!

“吃相,长相到面相,没一个顺眼的!”宝妈晒女儿吃饭被骂惨!

世界圈
2026-10-14 07:32:45
泰国全员是“赏金猎人”?泰国电诈再升级!专卖这两类中国人

泰国全员是“赏金猎人”?泰国电诈再升级!专卖这两类中国人

怪味历史连连看
2026-10-17 16:58:53
大多男人没弄明白,女人的主动,就是悄悄暗示你,给你机会

大多男人没弄明白,女人的主动,就是悄悄暗示你,给你机会

大熊欢乐坊
2026-10-18 07:16:16
白敬亭紧身衣配皮裤亮相惊呆众人!黄景瑜开脸贴大:“这皮裤穿一天,就为了这一刻吧”

白敬亭紧身衣配皮裤亮相惊呆众人!黄景瑜开脸贴大:“这皮裤穿一天,就为了这一刻吧”

韩小娱
2026-10-17 15:39:51
广西来宾市市长周春涌简历

广西来宾市市长周春涌简历

探秘桂北
2026-10-18 07:04:23
一路走好?白岩松去世,大衣哥跳楼身亡,刘晓庆凌晨去世,谣言个个荒唐

一路走好?白岩松去世,大衣哥跳楼身亡,刘晓庆凌晨去世,谣言个个荒唐

老沮系戏精北鼻
2026-10-17 14:16:08
官媒痛批“衣不遮体”!演唱会成遮羞布,这几位女星“越露越多”

官媒痛批“衣不遮体”!演唱会成遮羞布,这几位女星“越露越多”

孤芳自赏的小李
2026-08-29 19:52:12
陈滢在TVB台庆剧戏份收到25宗投诉!张智霖自爆全家看他和陈晓华的激情戏:岳父岳母一起看

陈滢在TVB台庆剧戏份收到25宗投诉!张智霖自爆全家看他和陈晓华的激情戏:岳父岳母一起看

TVB资讯台
2026-10-17 21:10:23
多名院士提倡:超过65岁的老人,宁可在家做家务,也别出去做这些

多名院士提倡:超过65岁的老人,宁可在家做家务,也别出去做这些

健康之光
2026-10-18 04:45:05
千万不要在家闲着,即使没工作、没事干,也千万别躺平,因为人一旦躺下,一晃一天就过去了,没收入还躺出一身病,心情也……

千万不要在家闲着,即使没工作、没事干,也千万别躺平,因为人一旦躺下,一晃一天就过去了,没收入还躺出一身病,心情也……

十点读书
2026-10-17 18:38:55
2026乌镇戏剧节,“江郎才尽”的黄磊,让所有人见识到了他的江湖地位

2026乌镇戏剧节,“江郎才尽”的黄磊,让所有人见识到了他的江湖地位

娱乐圈十三太保
2026-10-17 19:44:22
《现发4》仅播第一期,王楚然遭受的“性凝视”,在她身上体现得淋漓尽致

《现发4》仅播第一期,王楚然遭受的“性凝视”,在她身上体现得淋漓尽致

娱乐圈十三太保
2026-10-16 09:54:18
摩托车迎来新规!2027年1月1日起实施!解禁摩托车也快了?

摩托车迎来新规!2027年1月1日起实施!解禁摩托车也快了?

史之铭
2026-10-17 00:49:49
原著9.0分没上过番茄巅峰榜,改成AI漫剧却播了50亿

原著9.0分没上过番茄巅峰榜,改成AI漫剧却播了50亿

坠入二次元的海洋
2026-10-17 05:40:52
2-1爆冷,世界第26掀翻世界第2,兹维列夫止步ATP1000上海大师赛4强

2-1爆冷,世界第26掀翻世界第2,兹维列夫止步ATP1000上海大师赛4强

侧身凌空斩
2026-10-17 18:46:58
“江苏体制内独生女炫耀家境!”惹怒网友:你在这装什么呢?

“江苏体制内独生女炫耀家境!”惹怒网友:你在这装什么呢?

林林先生
2026-10-14 11:07:09
人间清醒啊!2句话终结相亲:女方二婚带儿子,提出婚后不再生育,男方怒斥其不是找伴侣,而是找工具人

人间清醒啊!2句话终结相亲:女方二婚带儿子,提出婚后不再生育,男方怒斥其不是找伴侣,而是找工具人

火山詩话
2026-10-17 10:28:48
菲律宾破防了!马科斯将召见中国大使,菲参议员叫嚣“驱逐”!

菲律宾破防了!马科斯将召见中国大使,菲参议员叫嚣“驱逐”!

故事终将光明磊落
2026-10-17 08:44:11
美媒记者在约旦河西岸遭以色列定居者“残酷袭击”,美国务院、内塔尼亚胡发声

美媒记者在约旦河西岸遭以色列定居者“残酷袭击”,美国务院、内塔尼亚胡发声

环球网资讯
2026-10-17 11:28:07
日本花了40年,渗透中国的教育

日本花了40年,渗透中国的教育

枫冷慕诗
2026-10-16 11:58:15
2026-10-18 08:08:49
侃故事的阿庆
侃故事的阿庆
几分钟看完一部影视剧,诙谐幽默的娓娓道来
791文章数 9659关注度
往期回顾 全部

科技要闻

刘煜辉:99%的黄金分析师报告一钱不值

头条要闻

96岁爷爷因年龄被旅行社拒绝 乘40小时火车到西藏旅游

头条要闻

96岁爷爷因年龄被旅行社拒绝 乘40小时火车到西藏旅游

体育要闻

升级版杨瀚森再闯难关:当上开拓者第三中锋还得拼

娱乐要闻

庾澄庆罕谈前妻 撕下伊能静仅剩的体面

财经要闻

新一轮大跌源头,找到了!

汽车要闻

星瑞L PLUS限时售价10.97万元起 开启智混3L时代

态度原创

游戏
教育
亲子
艺术
公开课

《使命召唤:现代战争4》Switch 2版支持DLSS

教育要闻

一年级奥数,填数字满足数的分成

亲子要闻

粉嫩小宝贝手持大面包,眼神专注萌化人心!

艺术要闻

美到窒息!黛安笔下的午后“印象”,明媚又温柔,看完心情都亮了!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版