网易首页 > 网易号 > 正文 申请入驻

Claude Opus 4.7安全过滤器误伤合规请求,开发者怨声载道

0
分享至


Anthropic上周发布的Opus 4.7在推出时附带了更严格的安全防护机制,旨在防止滥用行为。然而,这些防护措施也意外阻断了大量合规的正常使用场景。

Opus 4.7的发布紧随Anthropic宣布Mythos模型之后——该模型据称在漏洞发现与利用方面能力过强,因此不向公众开放。尽管外界普遍认为这一风险评估带有自利性质,但Anthropic仍决定以Opus 4.7作为测试平台,部署高度警觉的安全护栏。

Anthropic表示:"我们在发布Opus 4.7时配套了能够自动检测并拦截涉及禁止或高风险网络安全用途请求的安全防护机制。通过对这些防护措施的实际部署,我们将积累经验,逐步推进Mythos级别模型的广泛发布。"

然而,Anthropic只需仔细查阅其Claude Code的GitHub仓库,便能从中获得大量有价值的反馈。针对可接受使用政策(AUP)分类器的投诉急剧增加,用户普遍反映正常工作受到了干扰。

安全防护越严格,误报就越多——Claude变得过于谨慎,频繁拒绝回应无害请求。一张由Claude整理生成的AUP拒绝投诉趋势图清晰呈现了这一问题。

Claude Code用户数月来持续在GitHub上反映被错误拒绝的问题,但此前投诉数量相对平稳。

2025年7月至9月,此类投诉每月约为两至三条。其中一个典型案例是编号4373的议题:"来自claude.ai的内存授权码触发API政策错误。"

2025年10月至11月,AUP相关拒绝的投诉量上升至每月五至七条,例如编号8784的议题:"Claude 4.5在处理正常请求时随机抛出API错误:Claude Code无法响应该请求。"

12月相关投诉较少,这或许与美国节假日期间活跃度下降有关。

1月投诉数量回升至约八条。提交编号16129议题"Claude Code中反复出现AUP误判违规"的开发者指出:"技术性软件开发对话不应触发AUP违规。安全过滤器对良性内容的识别明显过于激进。"2月和3月的情况与此相近。

进入4月后,情况彻底失控。

仅在4月,开发者已提交超过30份疑似误报,涉及安全、通用开发及科学类请求被拒等多个方面。

具体案例包括:

编号48442:《持续性AUP误报——4个会话中出现40余次误报,涉及多个不相关项目(心理学书籍、网页应用、基础设施、机器人)》,记录了Claude拒绝处理多条俄语提示词的问题。

编号49751:《Opus 4.7将标准计算结构生物学标记为使用政策违规,相较4.6版本出现功能退步》,描述了计算结构生物学任务被误判标记的情况。

编号50916:《使用政策问题》,由路易斯安那州立大学网络中心及应用网络安全实验室主任Golden G. Richard III提交。他写道:"我花费每月200美元以上,基本的编辑辅助请求却遭到拒绝,这实在难以接受。这是一个与我的教材《网络安全实战》配套的实验室,我完全了解AI模型被滥用于网络攻击的潜在风险,但模型拒绝为包含简单加密练习的实验室内容校对,实属荒谬。如果模型被限制到连网络安全教育者和研究人员都无法正常使用的程度,这究竟对安全领域有何正面意义?"

编号48723:《Claude Code在读取原始数据文件时持续报AUP违规错误(附示例)》,描述了Claude在被要求读取一份孩之宝Shrek玩具广告PDF时抛出AUP错误的情况。提交该议题的开发者随后发现,文件中某段特定的PDF内容流语法触发了Claude的拒绝响应,其实际内容翻译为"CHARACTER OR FOR DONKEY UNDERNEATH(驴子下方的角色)"。

此外还有编号49679:《已获网络安全用例豁免授权,在Claude Chat中可正常使用,但在Claude Code API中仍持续收到安全系统的误报。已批准的网络安全用例豁免未能完整传递至使用Opus的Claude Code API》,描述了Anthropic专为安全研究人员设立的绕过安全护栏豁免机制,在API层面无法正常生效的问题。

其他近期疑似误判拒绝的案例还有:50795、51352、51794、52086、50494、49904、46147和51248等多个编号。

投诉数量的部分增长或许可归因于用户群体的扩大——用户越多,反馈问题的人自然也越多。但显然,大量Claude用户确实遭受了过激的AUP分类器的不当拦截。

从已泄露的Claude Code源代码来看,其情感分析采用了正则表达式匹配这一简化方式,AUP分类器很可能也沿用了类似的捷径——仅逐字检测是否含有敏感词汇,而不考虑上下文语境。

Anthropic对此未予置评。

Q&A

Q1:Claude Opus 4.7的AUP分类器为什么会产生大量误报?

A:Claude Opus 4.7在发布时配套了更严格的安全护栏,旨在自动检测并拦截涉及禁止或高风险网络安全用途的请求。然而,从已泄露的Claude Code源代码来看,其分类器可能采用了正则表达式匹配等简化方式,仅检测敏感词汇而不考虑上下文语境,导致大量无害的合规请求也被错误拦截。

Q2:Anthropic为网络安全研究人员设立的AUP豁免机制是否有效?

A:根据开发者反馈,这一豁免机制存在明显缺陷。编号49679的GitHub议题显示,已获批准的网络安全用例豁免授权在Claude Chat中可正常生效,但在通过API使用Claude Code(Opus版本)时,豁免权限未能完整传递,安全系统仍会持续产生误报拦截。

Q3:Claude Opus 4.7的AUP误报问题从什么时候开始明显加剧?

A:根据GitHub上的投诉趋势,2025年7月至9月每月约有两至三条相关投诉,10月至11月上升至五至七条,1月至3月维持在约八条左右。进入4月后,投诉数量急剧攀升,仅一个月内开发者便提交了超过30份疑似误报报告,涉及安全、通用开发及科学类请求等多个领域。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
Wan 3.0 有了自己的镜头美学

Wan 3.0 有了自己的镜头美学

爱范儿
2026-08-06 22:50:37
时代落幕:本田正式暂停在华燃油车厂,日系燃油车退出中国倒计时

时代落幕:本田正式暂停在华燃油车厂,日系燃油车退出中国倒计时

史之铭
2026-08-07 16:27:46
3人租车未获实体钥匙被困川西海拔3700米野外10余小时,门店回应

3人租车未获实体钥匙被困川西海拔3700米野外10余小时,门店回应

上游新闻
2026-08-07 16:38:23
国产全新复古掌机早鸟价公布:599元起售

国产全新复古掌机早鸟价公布:599元起售

游民星空
2026-08-07 12:39:15
因14岁儿子说“大不了去送外卖”,爸爸三伏天带他当外卖员,仅负责骑车并提供100元启动资金,其他由儿子负责;20天后意外修复父子关系

因14岁儿子说“大不了去送外卖”,爸爸三伏天带他当外卖员,仅负责骑车并提供100元启动资金,其他由儿子负责;20天后意外修复父子关系

深圳晚报
2026-08-07 14:42:18
汪峰:公司因AI已从1100人优化到400人 运营效率显著提升

汪峰:公司因AI已从1100人优化到400人 运营效率显著提升

快科技
2026-08-07 12:25:08
暴跌35%!年销17亿的“国民神药”凉了,车主:再便宜也不敢吃

暴跌35%!年销17亿的“国民神药”凉了,车主:再便宜也不敢吃

青眼财经
2026-08-07 15:43:38
燃油车时代会很快结束?内行人预测:油价很可能是最后的关键!

燃油车时代会很快结束?内行人预测:油价很可能是最后的关键!

离离言几许
2026-08-07 16:09:59
迟来的发现:新冠会唤醒体内大量潜伏病毒

迟来的发现:新冠会唤醒体内大量潜伏病毒

生物世界
2026-08-06 16:30:35
王楠的天塌了,她老公直播爆粗怒怼:我沾她屁光!全网炸锅

王楠的天塌了,她老公直播爆粗怒怼:我沾她屁光!全网炸锅

涵有话说
2026-08-07 09:40:25
28岁波兰名将辱华:宁波是贫民窟 中国不如日本 网友:秒杀华沙

28岁波兰名将辱华:宁波是贫民窟 中国不如日本 网友:秒杀华沙

念洲
2026-08-07 19:36:57
5小时2重磅签字——皇马一夜之间,给全欧洲上了一课

5小时2重磅签字——皇马一夜之间,给全欧洲上了一课

林子说事
2026-08-07 10:46:01
傲慢?波兰排球名将称宁波如贫民窟+不如日本!遭围攻:以后别来中国

傲慢?波兰排球名将称宁波如贫民窟+不如日本!遭围攻:以后别来中国

我爱英超
2026-08-07 16:22:01
梁文锋这次玩大了!彭博社爆料:DeepSeek刚融到几百亿,转头就跑内蒙建基地了!

梁文锋这次玩大了!彭博社爆料:DeepSeek刚融到几百亿,转头就跑内蒙建基地了!

青青子衿
2026-08-07 11:44:34
空调24小时开着反而更省电?电力部门回应

空调24小时开着反而更省电?电力部门回应

第一财经资讯
2026-08-07 12:53:39
北京深夜出新政!新一轮楼市调整来了

北京深夜出新政!新一轮楼市调整来了

拾榴询财
2026-08-07 22:55:36
记者实地探访“婚外胚胎案”涉事医院:就诊流程中明确标注建档需要结婚证原件,工作人员哽咽称近期舆情对医院造成较大冲击

记者实地探访“婚外胚胎案”涉事医院:就诊流程中明确标注建档需要结婚证原件,工作人员哽咽称近期舆情对医院造成较大冲击

大风新闻
2026-08-07 16:50:33
佛山一中学招聘物理教师,笔试前13名均遭淘汰?教育局:已叫停招聘,成立调查组全面核查

佛山一中学招聘物理教师,笔试前13名均遭淘汰?教育局:已叫停招聘,成立调查组全面核查

极目新闻
2026-08-07 15:53:23
反转!重庆游客睡车上伊犁酒店收150元后续:游客隐瞒事实,酒店方发声,大喊无辜

反转!重庆游客睡车上伊犁酒店收150元后续:游客隐瞒事实,酒店方发声,大喊无辜

李晚书
2026-08-07 13:25:23
中期选举成了屎中选屎

中期选举成了屎中选屎

码薯学人
2026-08-07 14:17:06
2026-08-08 01:47:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
20782文章数 49726关注度
往期回顾 全部

科技要闻

突然涨价,"只收电费钱"的梁文锋,变了吗

头条要闻

2岁患儿就诊死亡首诊医生获刑 不少医生为其鸣不平

头条要闻

2岁患儿就诊死亡首诊医生获刑 不少医生为其鸣不平

体育要闻

去年信誓旦旦3000万 今年NBA查无此人

娱乐要闻

周也热恋结束,六个字暴露单身状态

财经要闻

腾讯WorkBuddy领跑AI办公 阿里字节急了?

汽车要闻

越7全球首秀 传祺开始进攻方盒子越野

态度原创

本地
手机
数码
教育
公开课

本地新闻

课本里的童年,绍兴正上演

手机要闻

OPPO万级大电池新机开售,2199元起!

数码要闻

苹果旗舰台式机Mac Pro迎来20周年纪念 淘汰停产已有五个月

教育要闻

中招位次飙升近千名!京城这所“黑马校”到底做对了什么?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版