网易首页 > 网易号 > 正文 申请入驻

测试一千程序员后,Anthropic发现Claude Code全自动更安全

0
分享至

编辑|泽南


时代变了,自动模式比人工审批还安全了。

昨日,Anthropic 宣布,从 8 月 14 日起,自动模式将成为 Claude Code 中 Pro、Max 和 Team 用户的默认权限模式。

自动模式使用单独的分类器审查 shell 命令和操作。在测试中,它捕获了 89% 的危险命令,而人类手动批准只捕获了 14%。看起来,现在的 Agent 工具在基础设施层的防御机制已经相对成熟,足以让官方有底气将 Auto 模式设为默认,以追求极致的开发效率。



Anthropic 表示,作出这项更改主要的原因就是在测试中,自动模式的安全性已经匹配或者超越了手动权限审查。使用自动模式,长时程的工作将更具可行性,你可以在后台运行数小时的任务,而无需监督权限。

自动模式分类器每次工具调用会使用少量额外 token,不过从今天起 Anthropic 将不再向 Pro、Max 和 Team 套餐的 Claude Code 用户收取这部分费用。

在 Agent 工具的运行期间,AI 会要求各种权限以执行任务。自动模式顾名思义不会弹出提示,而是将每次工具调用都路由到一个分类器,其旨在阻止不可逆、破坏性或针对环境之外的操作。当分类器阻止某些操作时,Claude 通常会自行寻找更安全的处理方式,或直接征求人类许可;如果无法继续(连续三次或一次会话中二十次),Claude Code 将回退到手动审批模式。

虽然可能还算不上绝对安全,但 Anthropic 已经认为到了让 AI 放手去干的阶段了。过去几个月,Anthropic 开展了一项包含 1053 名付费测试人员的对照研究,并分析了实际生产环境中的测试结果。在所有测试指标中,自动模式的表现都与人工审核相当或更优。

自动模式允许 Claude 自主运行更长时间,这使得像 Claude Opus 5 这样专为长时间运行任务而设计的模型能够更有效地处理大型任务。Anthropic 称,在 Teams 和 Enterprise 版本中,使用自动模式的用户提交的 PR 数量增加了约 25%。Adobe、Nuro、Gusto 和 Garner Health 的团队已经将自动模式设置为生产环境的默认设置。

手动审核与自动审核模式的比较

数据显示,若手动审核的话,无脑下一步会成为习惯:在 Claude Code 中,用户批准了 97% 的权限提示。虽然大多数提示可能都是针对安全、常规的命令,但如此高的批准率表明,许多用户只是下意识地点击,而不是仔细审查每个命令。数据还表明,用户更频繁地审查和拒绝其他类型的对话框:例如,当 Claude 展示一个计划供用户批准时,用户会拒绝其中 39% 的计划。但对于单个权限请求,拒绝率仅为 3%。

同样的模式也出现在配置文件中。截至 2026 年 6 月,49.5% 的活跃命令行用户手动创建了 Bash 允许规则 —— 其中 5% 的用户直接允许所有 shell 命令,另有 43% 的用户设置了类似 --progressBash (python:*) 或 Bash (node:*)--progress 的解释器规则,这些规则在实践中本质上是等效的 —— 而且这一比例大约每 5 周增长 5 个百分点。除了允许规则之外,62% 的用户 bypassPermissions 在 Bash 中使用过或点击过「不再询问」选项,25% 的交互式会话以绕过权限模式启动。

在自动模式下,权限规则仍然会在分类器之前生效,但允许执行任意代码的规则(例如 python:*)除外。这些任意规则在自动模式下会被忽略,因为它们会导致命令完全跳过分类器。配置文件不会被修改,切换到其他模式后,这些规则会立即重新生效。

通过自动模式提高安全性

Anthropic 内部以及第三方研究表明,自动模式比普通用户目前处理权限提示的方式更安全。



在一项有 1053 名付费专业测试人员参与的对照实验中,人工审核仅发现了 13.6% 的危险命令,而自动模式发现了 89%。

研究还表明,自动模式比手动权限模式导致的有害行为更少。

Anthropic 研究了自动模式在实际使用中的表现。2026 年 5 月至 6 月期间,其审查了安全管道标记需要审核的会话,这些会话仅来自选择将数据用于训练和分析的账户。其使用模型对每个会话进行了重新评分,评分标准为两个 0-10 分的等级。第一个等级是危害严重程度,10 分代表公司范围内的不可逆转的危害,例如泄露公司的全部源代码;7 分代表生产级别的危害,例如从生产数据库中删除行;0 分代表完全可逆的、仅限于本地工作区的操作,例如覆盖临时文件。第二个等级是用户请求操作的明确程度,以便我们区分用户直接请求的有害操作和代理在不太明确的指示下执行的有害操作。

在被标记的会话中,经人工审核的会话造成严重意外损害的概率是自动模式会话的两倍以上。在生产级别严重性(7 级及以上)下,6.3% 的人工审核会话包含用户未明确请求的有害操作,而自动模式会话的这一比例为 2.4%,在测试的每个严重性级别中,这种差距都存在。

除了自己和自己比,Anthropic 当然也和竞争对手比了一下。

启用自动模式后,独立评估中没有任何攻击成功攻击 Anthropic 的任何模型。而在 Codex v0.144.5 自动审核权限模式下运行的 GPT-5.6 Sol 的攻击成功率为 5.83%。GPT-5.6 Sol 在 Max 推理难度下运行,以测试其最高推理水平下的性能,所有 Claude 模型均在高推理难度下运行。



自动模式分类器增加了一层额外的防御,可以抵御提示注入攻击,这类攻击试图强迫智能体偏离用户的指令。在自动模式下运行时,探测程序会扫描工具结果,查找潜在的恶意指令,并且自动模式还会检查操作是否符合用户意图。

Codex 和 Claude Code 均使用 Trajectory Labs, PBC 提供的相同浏览器集成进行评估。该集成提供了一套 MCP 工具,这些工具是对常用 Chrome API(例如 navigate)的轻量级封装。OpenAI 和 Anthropic 等第一方浏览器集成(如 Chrome 扩展程序)内置的安全防护措施未进行测试。因此,这些结果应被视为对底层模型的衡量。

在本次评估中,针对运行自动模式的 Claude Fable 5、Opus 5 和 Sonnet 5 的 720 次攻击尝试均未成功。另一方面,针对运行 Codex 自动审核模式的 GPT-5.6 Sol,攻击成功率为 5.83%。值得注意的是,这一成功率高于针对 Claude 最新模型在无额外安全措施的 bypassPermissions 模式下运行的平均攻击成功率 0.09%。测试显示,在完全访问模式下,针对 GPT-5.6 Sol 的攻击成功率高达 19.03% 。

如下所示,对于工具以文本形式返回结果的任务和需要通过屏幕截图与浏览器交互的任务,攻击成功率有所不同。





自动模式可防止工具调用和浏览器 GUI 使用过程中出现提示注入攻击。第三方评估显示,OpenAI 模型在浏览器任务上的攻击成功率更高。

在 Anthropic 公司内部,所有 Claude Code 的使用都默认采用自动模式。以下是分类器在内部阻止的三种操作:

  • 网络外数据泄露:当上传到内部硬盘失败时,Claude 的备用方案是将同一份报告发布到公共代码共享网站。自动模式拒绝了此备用方案,并提示用户进行后续操作。
  • 一次破坏性的大规模操作:在一次长时间运行的会话中,Claude 尝试对大约两千个 pod 执行大规模进程终止操作,并排队等待删除,这些操作会终止数百个正在进行训练任务的 GPU。自动模式在执行前标记了这些破坏性命令。
  • 权限提升过大:Claude 被要求配置只读计费权限时,却选择了授予账户根目录完全管理控制权限的云角色。自动模式检测到了请求的权限与实际授予的角色之间的不匹配。

在每种情况下,Claude 要么自行找到了一条更安全的路径,要么在继续前进之前先征求用户的意见。

Anthropic 正在持续投入资源开发新的自动模式功能,让生产代码的发布更加安全便捷。近期的一些例子包括:

  • 硬性拒绝:数据泄露,例如将你的代码或密钥发送到外部,属于分类器设计为永不批准的类别。要执行此类操作,则必须切换到非自动模式或手动运行命令。硬性拒绝规则可通过设置进行自定义,因此你可以添加更多规则,即使组织内的用户提出请求,也绝不允许这些操作。
  • 数据访问和共享规则:分类器现在包含明确的规则,用于区分秘密信息和潜在的敏感 / 机密信息,以及每种信息的访问和共享范围。为了确保这些规则的有效性,分类器还会在执行操作之前检查 Git 推送或拉取请求的目标位置是公开、私有还是可信。同一次推送操作,根据其目标位置的不同,可能是例行推送,也可能是数据泄露:属于团队私有仓库的代码不应该出现在公共仓库中,分类器现在能够标记出这种情况可能发生的时机。
  • 在执行破坏性 git 操作之前检查 git 状态:在执行可能丢弃未提交工作的命令(例如 git reset --hard)之前,分类器会查看存储库的当前 git 状态,让自动模式知道要重置什么。
  • 提示注入筛查:当 Claude 从外部来源(例如网页、文件内容或工具输出)获取内容时,API 端探测器会检查这些内容是否存在劫持 Claude 行为的尝试。如果发现疑似注入尝试,则会在将结果分享给用户之前,向 Claude 的上下文中添加警告。

要在命令行界面 (CLI) 中切换模式,请按 Shift+Tab 键,或使用桌面应用程序中的模式下拉菜单。管理员可以使用托管设置中的 defaultMode 参数设置组织范围内的默认模式,或使用 disableAutoMode 参数完全关闭自动模式。

参考内容:

https://claude.com/blog/auto-mode-default-in-claude-code

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

向太陈岚自曝:现在我多想郭碧婷再多生一两个,我都不敢开口

韩小娱
2026-11-22 13:34:14
春节返乡潮要变天?专家预言:2027年前后打工潮降温,原因很现实

春节返乡潮要变天?专家预言:2027年前后打工潮降温,原因很现实

江启
2026-11-21 12:47:21
为何说新西兰没几个中国人待得住?网友:待了几个月,都快疯了

为何说新西兰没几个中国人待得住?网友:待了几个月,都快疯了

乌克兰小静
2026-11-20 09:02:01
老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

起点财经
2026-11-22 13:10:41
精准预言黄金大跌的人,又发声了

精准预言黄金大跌的人,又发声了

新浪财经
2026-11-21 19:16:22
比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

疯狂小菠萝
2026-11-22 11:01:59
云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

云彩太阳都一模一样!特斯拉FSD V15实景视图刷屏 车主集体喊疯狂

快科技
2026-11-22 10:00:08
前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

前国脚金敬道疑似出狱与美女合影:球场进不去,流量场先热身

姜大叔侃球
2026-11-21 11:25:05
余文乐凌晨发文告别舞台!

余文乐凌晨发文告别舞台!

In风尚
2026-11-21 12:02:42
年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

年会中了四十万的奔驰E300L,直接提车还是税后折现三十五万,这道题摆在普通中年夫妻面前,往往会吵出两种委屈

可读
2026-11-21 00:13:14
不理解,为什么馒头是小麦做的,可山东河南等地到了80后才吃上?

不理解,为什么馒头是小麦做的,可山东河南等地到了80后才吃上?

抽象派大师
2026-11-22 02:00:30
西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

西药直达病灶,联邦通信委员会禁止三大运运商获取美国电话号码

凡人学电脑
2026-11-20 23:39:35
普京向乌克兰军人“喊话”

普京向乌克兰军人“喊话”

参考消息
2026-11-21 15:58:07
全面禁止中方外交官入境,阻挠中国统一,这国比美国更嚣张?

全面禁止中方外交官入境,阻挠中国统一,这国比美国更嚣张?

古事寻踪记
2026-11-22 07:21:52
网易号平台每日辟谣公告(十一月二十一日)

网易号平台每日辟谣公告(十一月二十一日)

网易号官方平台
2026-11-21 18:21:29
高市重申对台立场

高市重申对台立场

陆弃
2026-11-22 10:21:14
18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

18岁男孩高考后去上海跑外卖,干了一个月跑了338单,一算工资倒欠站点114元

一丝不苟的法律人
2026-11-22 13:20:47
这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

这下彻底佩服了!​黄仁勋的情人黄乐,​手上戴的手镯,我特意去查了一下它的价格,真是贫穷限制了我的想象!

财经要参
2026-11-15 12:00:05
骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

骆大进,任浦东新区区政府党组书记!“89后”陈明,拟提名为副县(区)长人选!

爱意随风起呀
2026-11-22 15:40:19
9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

9连胜!头号黑马冲到英超第4:连续3个3-0打爆3大豪强 创127年历史

风过乡
2026-11-22 08:12:54
2026-11-22 16:48:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14525文章数 142763关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

头条要闻

老板闭店前给学生写信:不要删我 想看你们幸福过一生

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

本地
教育
房产
亲子
健康

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

教育要闻

饮鸩止渴中的鸩指的是什么?难倒了语文老师

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

亲子要闻

4岁女儿幼儿园没白上,自己会叠衣服了,叠的比大人叠的都好

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版