网易首页 > 网易号 > 正文 申请入驻

Claude Opus 4.7安全过滤器误伤合规请求,开发者怨声载道

0
分享至


Anthropic上周发布的Opus 4.7在推出时附带了更严格的安全防护机制,旨在防止滥用行为。然而,这些防护措施也意外阻断了大量合规的正常使用场景。

Opus 4.7的发布紧随Anthropic宣布Mythos模型之后——该模型据称在漏洞发现与利用方面能力过强,因此不向公众开放。尽管外界普遍认为这一风险评估带有自利性质,但Anthropic仍决定以Opus 4.7作为测试平台,部署高度警觉的安全护栏。

Anthropic表示:"我们在发布Opus 4.7时配套了能够自动检测并拦截涉及禁止或高风险网络安全用途请求的安全防护机制。通过对这些防护措施的实际部署,我们将积累经验,逐步推进Mythos级别模型的广泛发布。"

然而,Anthropic只需仔细查阅其Claude Code的GitHub仓库,便能从中获得大量有价值的反馈。针对可接受使用政策(AUP)分类器的投诉急剧增加,用户普遍反映正常工作受到了干扰。

安全防护越严格,误报就越多——Claude变得过于谨慎,频繁拒绝回应无害请求。一张由Claude整理生成的AUP拒绝投诉趋势图清晰呈现了这一问题。

Claude Code用户数月来持续在GitHub上反映被错误拒绝的问题,但此前投诉数量相对平稳。

2025年7月至9月,此类投诉每月约为两至三条。其中一个典型案例是编号4373的议题:"来自claude.ai的内存授权码触发API政策错误。"

2025年10月至11月,AUP相关拒绝的投诉量上升至每月五至七条,例如编号8784的议题:"Claude 4.5在处理正常请求时随机抛出API错误:Claude Code无法响应该请求。"

12月相关投诉较少,这或许与美国节假日期间活跃度下降有关。

1月投诉数量回升至约八条。提交编号16129议题"Claude Code中反复出现AUP误判违规"的开发者指出:"技术性软件开发对话不应触发AUP违规。安全过滤器对良性内容的识别明显过于激进。"2月和3月的情况与此相近。

进入4月后,情况彻底失控。

仅在4月,开发者已提交超过30份疑似误报,涉及安全、通用开发及科学类请求被拒等多个方面。

具体案例包括:

编号48442:《持续性AUP误报——4个会话中出现40余次误报,涉及多个不相关项目(心理学书籍、网页应用、基础设施、机器人)》,记录了Claude拒绝处理多条俄语提示词的问题。

编号49751:《Opus 4.7将标准计算结构生物学标记为使用政策违规,相较4.6版本出现功能退步》,描述了计算结构生物学任务被误判标记的情况。

编号50916:《使用政策问题》,由路易斯安那州立大学网络中心及应用网络安全实验室主任Golden G. Richard III提交。他写道:"我花费每月200美元以上,基本的编辑辅助请求却遭到拒绝,这实在难以接受。这是一个与我的教材《网络安全实战》配套的实验室,我完全了解AI模型被滥用于网络攻击的潜在风险,但模型拒绝为包含简单加密练习的实验室内容校对,实属荒谬。如果模型被限制到连网络安全教育者和研究人员都无法正常使用的程度,这究竟对安全领域有何正面意义?"

编号48723:《Claude Code在读取原始数据文件时持续报AUP违规错误(附示例)》,描述了Claude在被要求读取一份孩之宝Shrek玩具广告PDF时抛出AUP错误的情况。提交该议题的开发者随后发现,文件中某段特定的PDF内容流语法触发了Claude的拒绝响应,其实际内容翻译为"CHARACTER OR FOR DONKEY UNDERNEATH(驴子下方的角色)"。

此外还有编号49679:《已获网络安全用例豁免授权,在Claude Chat中可正常使用,但在Claude Code API中仍持续收到安全系统的误报。已批准的网络安全用例豁免未能完整传递至使用Opus的Claude Code API》,描述了Anthropic专为安全研究人员设立的绕过安全护栏豁免机制,在API层面无法正常生效的问题。

其他近期疑似误判拒绝的案例还有:50795、51352、51794、52086、50494、49904、46147和51248等多个编号。

投诉数量的部分增长或许可归因于用户群体的扩大——用户越多,反馈问题的人自然也越多。但显然,大量Claude用户确实遭受了过激的AUP分类器的不当拦截。

从已泄露的Claude Code源代码来看,其情感分析采用了正则表达式匹配这一简化方式,AUP分类器很可能也沿用了类似的捷径——仅逐字检测是否含有敏感词汇,而不考虑上下文语境。

Anthropic对此未予置评。

Q&A

Q1:Claude Opus 4.7的AUP分类器为什么会产生大量误报?

A:Claude Opus 4.7在发布时配套了更严格的安全护栏,旨在自动检测并拦截涉及禁止或高风险网络安全用途的请求。然而,从已泄露的Claude Code源代码来看,其分类器可能采用了正则表达式匹配等简化方式,仅检测敏感词汇而不考虑上下文语境,导致大量无害的合规请求也被错误拦截。

Q2:Anthropic为网络安全研究人员设立的AUP豁免机制是否有效?

A:根据开发者反馈,这一豁免机制存在明显缺陷。编号49679的GitHub议题显示,已获批准的网络安全用例豁免授权在Claude Chat中可正常生效,但在通过API使用Claude Code(Opus版本)时,豁免权限未能完整传递,安全系统仍会持续产生误报拦截。

Q3:Claude Opus 4.7的AUP误报问题从什么时候开始明显加剧?

A:根据GitHub上的投诉趋势,2025年7月至9月每月约有两至三条相关投诉,10月至11月上升至五至七条,1月至3月维持在约八条左右。进入4月后,投诉数量急剧攀升,仅一个月内开发者便提交了超过30份疑似误报报告,涉及安全、通用开发及科学类请求等多个领域。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
阿斯:维尼修斯感激穆里尼奥帮忙,双方共同让步促成续约

阿斯:维尼修斯感激穆里尼奥帮忙,双方共同让步促成续约

懂球帝
2026-08-08 17:36:06
打黑除恶再升级!这7类人无处可逃

打黑除恶再升级!这7类人无处可逃

小虎新车推荐员
2026-08-06 12:54:11
19岁李嫣跟老爸聚餐!手不离烟动作熟练,170cm身材干瘪太像王菲

19岁李嫣跟老爸聚餐!手不离烟动作熟练,170cm身材干瘪太像王菲

一娱三分地
2025-08-14 13:28:27
影视行业垮了,60位一线明星歇业,王一博超800天没进组

影视行业垮了,60位一线明星歇业,王一博超800天没进组

光影新天地
2026-08-08 08:25:31
伊朗最高领袖穆杰塔巴出镜!官方发布授课视频,此前被传“重伤”或“已死”

伊朗最高领袖穆杰塔巴出镜!官方发布授课视频,此前被传“重伤”或“已死”

听心堂
2026-08-08 19:22:36
蔚来第五代换电站在北上广深投运,firefly萤火虫正式接入

蔚来第五代换电站在北上广深投运,firefly萤火虫正式接入

IT之家
2026-08-08 11:57:30
悲催!广东一女生曝光某医院开电梯的阿姨“刷视频吃零食”,结果被辞退,当事人发帖回应:月薪3000的岗位,绝非摸鱼闲差

悲催!广东一女生曝光某医院开电梯的阿姨“刷视频吃零食”,结果被辞退,当事人发帖回应:月薪3000的岗位,绝非摸鱼闲差

火山詩话
2026-08-08 17:40:58
进球网:努涅斯的年薪为2200万欧,比萨拉赫高出500万欧

进球网:努涅斯的年薪为2200万欧,比萨拉赫高出500万欧

懂球帝
2026-08-08 20:26:16
瘫子娘、疯子爹,744分高考状元被清华录取9年后,现状令人泪目

瘫子娘、疯子爹,744分高考状元被清华录取9年后,现状令人泪目

北海史记
2026-08-08 19:23:32
员工卡点下班被领导在大群通报批评罚500,当场转1000反问敢不敢收,领导瞬间哑火!

员工卡点下班被领导在大群通报批评罚500,当场转1000反问敢不敢收,领导瞬间哑火!

一丝不苟的法律人
2026-07-29 12:35:47
情商低的人有多讨厌?网友:这不就是我刚断联系的朋友吗

情商低的人有多讨厌?网友:这不就是我刚断联系的朋友吗

带你感受人间冷暖
2026-08-08 00:05:30
雪佛兰被指将在国内停售,通用汽车回应:不会停产;去年雪佛兰中国销量不足9000辆

雪佛兰被指将在国内停售,通用汽车回应:不会停产;去年雪佛兰中国销量不足9000辆

红星资本局
2026-08-07 21:35:05
印度绕开中国向日本购变压器,谁料压垮百年大桥,事后说中国全责

印度绕开中国向日本购变压器,谁料压垮百年大桥,事后说中国全责

霁寒飘雪
2026-08-08 11:41:08
15家“PCB概念”黑马企业(名单)

15家“PCB概念”黑马企业(名单)

小陆搞笑日常
2026-08-08 07:58:45
沙特媒体:利雅得新月和吉达国民均有意卡萨多;球员已表态离队意愿

沙特媒体:利雅得新月和吉达国民均有意卡萨多;球员已表态离队意愿

懂球帝
2026-08-09 01:02:16
从跟腱撕裂到胯下换手扣篮!他要带队再次冲冠

从跟腱撕裂到胯下换手扣篮!他要带队再次冲冠

篮球大视野
2026-08-09 00:03:09
南昌起义时,营长抓获一俘虏,28年后俘虏成元帅,而营长成少将

南昌起义时,营长抓获一俘虏,28年后俘虏成元帅,而营长成少将

芊芊子吟
2026-08-08 21:50:03
美专家警告:西方冻结3.2万亿中国资产,中国有王炸

美专家警告:西方冻结3.2万亿中国资产,中国有王炸

书写传奇
2026-08-07 23:00:53
过户时被告知签有靓号协议,想携号转网交3840元违约金,“电信拿不出靓号协议原件,电子签名跟我笔迹不一样”

过户时被告知签有靓号协议,想携号转网交3840元违约金,“电信拿不出靓号协议原件,电子签名跟我笔迹不一样”

大风新闻
2026-08-07 20:52:09
李在明果然没让中方失望,韩国180度猛调头,不打算轻易放过日本

李在明果然没让中方失望,韩国180度猛调头,不打算轻易放过日本

空天力量
2026-08-07 17:08:16
2026-08-09 01:51:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
20782文章数 49726关注度
往期回顾 全部

科技要闻

SpaceX最快下周完成600亿美元收购Cursor

头条要闻

十多万人报名的考试成绩全作废 考生:为何让别人买单

头条要闻

十多万人报名的考试成绩全作废 考生:为何让别人买单

体育要闻

蓉城0-1玉昆 中超6轮不胜仍13分领跑 奥斯卡头球制胜+赛季16球

娱乐要闻

萧敬腾坦白!与大14岁妻子选择丁克

财经要闻

一枚“回旋镖”,击中王思聪

汽车要闻

华为乾崑+大六座 星海V6预售8.99万元起

态度原创

艺术
旅游
亲子
公开课
军事航空

艺术要闻

她们在腿上开画展,尺度惊人却没人骂“低俗”,反而看呆百万网友:这身体,是行走的美术馆!

旅游要闻

"白海豚"逼近!记者实探西湖景区 船票已停售

亲子要闻

谁的工具谁来领!工程车们找到自己对应的工具啦!#儿童动画#儿童玩具

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

伊朗公布“被击落的美以战机残骸”

无障碍浏览 进入关怀版