网易首页 > 网易号 > 正文 申请入驻

Anthropic给Claude Code上了50把锁

0
分享至

Claude Code的安全机制有个精确到个位数的临界点:50条子命令。超过这个数,所有拒绝规则自动失效。

以色列安全公司Adversa在分析泄露源码时发现,Anthropic给自家编程助手设了道看似聪明的保险——当子命令链超过50个,系统放弃自动拦截,转交用户确认。设计者的假设很朴素:正常人不会一口气写50多条命令。

但他们漏算了一种情况:AI自己生成的命令。

「50」这个数字怎么来的

漏洞藏在bashPermissions.ts文件里。变量MAX_SUBCOMMANDS_FOR_SECURITY_CHECK被硬编码为50,配套注释提到内部工单CC-643,解释这是"对正常使用的慷慨预留"。

Adversa的红队测试员在提交给The Register的分析中写道:「这个假设对人类写的命令成立,但没考虑到提示词注入攻击——恶意CLAUDE.md文件可以指示AI生成50+子命令的管道,伪装成正常构建流程。」

攻击演示极其简单。Adversa构造了一条bash命令:前面塞50个无操作的"true",第51个放被禁用的curl。Claude没有直接拒绝,而是弹出授权询问。

在交互场景下,这还算有最后一道防线。但开发者常用--dangerously-skip-permissions模式自动放行,或者长时间工作后机械性点击确认。CI/CD流水线里的非交互模式更危险,那里没人盯着。

修复方案其实已经写好了

讽刺的是,Anthropic内部已经有解药。源码里能看到一个叫"tree-sitter"的解析器,正在内部使用,但公开版本还没装。

Adversa指出,甚至不用等tree-sitter上线。把bashPermissions.ts第2174行的"behavior"键从"ask"改成"deny",一行代码就能堵住这个口子。

这家安全公司把问题定性为"安全策略执行代码的缺陷",强调若不处理会有监管合规层面的麻烦。截至发稿,Anthropic尚未回应置评请求。

提示词注入的新战场

这次攻击向量值得细品。传统提示词注入是直接哄骗AI做坏事,这次是让AI自己生产武器——生成一段看起来合法的复杂脚本,利用的是系统对"复杂度"的宽容。

50个子命令的阈值,本质上是把安全决策外包给了人类注意力。而人类注意力在AI辅助编程场景下,恰恰是最稀缺的资源。

Adversa的测试揭示了一个尴尬现实:安全机制的设计者还在用"人类不会这么干"的思维定式,攻击者已经学会让AI替他们"这么干"了。

tree-sitter解析器能否彻底解决问题?当AI生成的代码复杂度持续膨胀,静态阈值是不是终究会被撞破?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
赚得太多了,全员发钱?人均年终奖610万的背后

赚得太多了,全员发钱?人均年终奖610万的背后

中产先生
2026-05-07 12:08:09
持续引领百万级豪华市场,揽胜与路虎卫士的不可替代性从何而来?

持续引领百万级豪华市场,揽胜与路虎卫士的不可替代性从何而来?

球叔教你买车
2026-04-29 09:24:34
重庆市副市长、市公安局局长张安疆因病医治无效不幸离世

重庆市副市长、市公安局局长张安疆因病医治无效不幸离世

新京报
2026-05-07 20:13:05
又一个“爱国大V”人设翻车!靠爱国捞金千万,私下悄悄办移民!

又一个“爱国大V”人设翻车!靠爱国捞金千万,私下悄悄办移民!

麦杰逊
2026-05-07 13:13:17
太高明!站在中国领土上,伊外长只提一个请求,特朗普急喊话中国

太高明!站在中国领土上,伊外长只提一个请求,特朗普急喊话中国

头条爆料007
2026-05-07 09:45:18
“全国销冠”任晓敏被刑拘,泰康人寿回应

“全国销冠”任晓敏被刑拘,泰康人寿回应

观察者网
2026-05-07 20:38:11
A.O.史密斯启动在华业务出售评估,外资家电撤离潮持续上演

A.O.史密斯启动在华业务出售评估,外资家电撤离潮持续上演

厨电新观察
2026-05-07 14:53:00
中国球迷险无法看国足踢世界杯!央视极限压价:2亿买两届转播权

中国球迷险无法看国足踢世界杯!央视极限压价:2亿买两届转播权

念洲
2026-05-07 16:31:49
三星为什么不做中国生意了?

三星为什么不做中国生意了?

今夜无局
2026-05-07 10:40:34
娃哈哈董事长,大婚!

娃哈哈董事长,大婚!

家传编辑部
2026-05-07 22:11:46
举报一个查一个!耿同学举报3位大学院长和教授,同济院长被免职还差南开和中山

举报一个查一个!耿同学举报3位大学院长和教授,同济院长被免职还差南开和中山

可达鸭面面观
2026-05-07 13:03:19
争议!郑钦文委屈落泪:向裁判抗议安保人员乱走动 反遭对方回怼

争议!郑钦文委屈落泪:向裁判抗议安保人员乱走动 反遭对方回怼

风过乡
2026-05-07 19:49:48
魏凤和案、李尚福案一审宣判

魏凤和案、李尚福案一审宣判

新京报
2026-05-07 18:08:25
伦敦世乒赛再爆大冷,冠军队1-3惨遭淘汰,张本打疯了,莎莎3-0

伦敦世乒赛再爆大冷,冠军队1-3惨遭淘汰,张本打疯了,莎莎3-0

小徐讲八卦
2026-05-07 09:00:22
恒大集团创始人许家印被曝出猛料

恒大集团创始人许家印被曝出猛料

地产微资讯
2026-05-07 09:28:09
1800万存银行被员工“转走炒股”,最新进展:吉林农商银行全额支付储户1000万元存款本金和利息,另一储户800万元仍无明确进展

1800万存银行被员工“转走炒股”,最新进展:吉林农商银行全额支付储户1000万元存款本金和利息,另一储户800万元仍无明确进展

洪观新闻
2026-05-07 14:33:26
血赚!大巴黎5000万捡漏登贝莱,逆袭成欧冠+金球双核心!

血赚!大巴黎5000万捡漏登贝莱,逆袭成欧冠+金球双核心!

田先生篮球
2026-05-07 14:17:42
讲真,这是我本周见过的唯一满分户型,没有之一

讲真,这是我本周见过的唯一满分户型,没有之一

首席楼盘分析师
2026-05-06 19:17:27
深圳大胜1-0浙江:贺希宁32+5总分升队史第二 史密斯27+9

深圳大胜1-0浙江:贺希宁32+5总分升队史第二 史密斯27+9

醉卧浮生
2026-05-07 22:00:41
魏凤和案、李尚福案一审宣判

魏凤和案、李尚福案一审宣判

界面新闻
2026-05-07 18:01:52
2026-05-08 00:07:00
爬虫饲养员
爬虫饲养员
业余养了只叫“龙虾”的AI爬虫,主业是给互联网打工。
2267文章数 26关注度
往期回顾 全部

科技要闻

月之暗面完成20亿美元融资,估值突破200亿

头条要闻

日媒询问中国是否希望恢复中日之间人员往来 中方回应

头条要闻

日媒询问中国是否希望恢复中日之间人员往来 中方回应

体育要闻

巴黎再进欧冠决赛,最尴尬的情况还是发生了

娱乐要闻

Lisa主持!宁艺卓观看脱衣秀风波升级

财经要闻

人均年薪406万,这家ST公司惊呆市场!

汽车要闻

雷克萨斯全新纯电三排SUV 全新TZ全球首发

态度原创

本地
家居
游戏
房产
公开课

本地新闻

用青花瓷的方式,打开西溪湿地

家居要闻

破茧成蝶 土味精装房爆改

在CS杀人会下地狱,那在战地救人就会上天堂!

房产要闻

负债23亿,抵押482亩地!海南这家巨头,惨遭拍卖!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版