网易首页 > 网易号 > 正文 申请入驻

Claude Opus 4.7安全过滤器误伤合规请求,开发者怨声载道

0
分享至


Anthropic上周发布的Opus 4.7在推出时附带了更严格的安全防护机制,旨在防止滥用行为。然而,这些防护措施也意外阻断了大量合规的正常使用场景。

Opus 4.7的发布紧随Anthropic宣布Mythos模型之后——该模型据称在漏洞发现与利用方面能力过强,因此不向公众开放。尽管外界普遍认为这一风险评估带有自利性质,但Anthropic仍决定以Opus 4.7作为测试平台,部署高度警觉的安全护栏。

Anthropic表示:"我们在发布Opus 4.7时配套了能够自动检测并拦截涉及禁止或高风险网络安全用途请求的安全防护机制。通过对这些防护措施的实际部署,我们将积累经验,逐步推进Mythos级别模型的广泛发布。"

然而,Anthropic只需仔细查阅其Claude Code的GitHub仓库,便能从中获得大量有价值的反馈。针对可接受使用政策(AUP)分类器的投诉急剧增加,用户普遍反映正常工作受到了干扰。

安全防护越严格,误报就越多——Claude变得过于谨慎,频繁拒绝回应无害请求。一张由Claude整理生成的AUP拒绝投诉趋势图清晰呈现了这一问题。

Claude Code用户数月来持续在GitHub上反映被错误拒绝的问题,但此前投诉数量相对平稳。

2025年7月至9月,此类投诉每月约为两至三条。其中一个典型案例是编号4373的议题:"来自claude.ai的内存授权码触发API政策错误。"

2025年10月至11月,AUP相关拒绝的投诉量上升至每月五至七条,例如编号8784的议题:"Claude 4.5在处理正常请求时随机抛出API错误:Claude Code无法响应该请求。"

12月相关投诉较少,这或许与美国节假日期间活跃度下降有关。

1月投诉数量回升至约八条。提交编号16129议题"Claude Code中反复出现AUP误判违规"的开发者指出:"技术性软件开发对话不应触发AUP违规。安全过滤器对良性内容的识别明显过于激进。"2月和3月的情况与此相近。

进入4月后,情况彻底失控。

仅在4月,开发者已提交超过30份疑似误报,涉及安全、通用开发及科学类请求被拒等多个方面。

具体案例包括:

编号48442:《持续性AUP误报——4个会话中出现40余次误报,涉及多个不相关项目(心理学书籍、网页应用、基础设施、机器人)》,记录了Claude拒绝处理多条俄语提示词的问题。

编号49751:《Opus 4.7将标准计算结构生物学标记为使用政策违规,相较4.6版本出现功能退步》,描述了计算结构生物学任务被误判标记的情况。

编号50916:《使用政策问题》,由路易斯安那州立大学网络中心及应用网络安全实验室主任Golden G. Richard III提交。他写道:"我花费每月200美元以上,基本的编辑辅助请求却遭到拒绝,这实在难以接受。这是一个与我的教材《网络安全实战》配套的实验室,我完全了解AI模型被滥用于网络攻击的潜在风险,但模型拒绝为包含简单加密练习的实验室内容校对,实属荒谬。如果模型被限制到连网络安全教育者和研究人员都无法正常使用的程度,这究竟对安全领域有何正面意义?"

编号48723:《Claude Code在读取原始数据文件时持续报AUP违规错误(附示例)》,描述了Claude在被要求读取一份孩之宝Shrek玩具广告PDF时抛出AUP错误的情况。提交该议题的开发者随后发现,文件中某段特定的PDF内容流语法触发了Claude的拒绝响应,其实际内容翻译为"CHARACTER OR FOR DONKEY UNDERNEATH(驴子下方的角色)"。

此外还有编号49679:《已获网络安全用例豁免授权,在Claude Chat中可正常使用,但在Claude Code API中仍持续收到安全系统的误报。已批准的网络安全用例豁免未能完整传递至使用Opus的Claude Code API》,描述了Anthropic专为安全研究人员设立的绕过安全护栏豁免机制,在API层面无法正常生效的问题。

其他近期疑似误判拒绝的案例还有:50795、51352、51794、52086、50494、49904、46147和51248等多个编号。

投诉数量的部分增长或许可归因于用户群体的扩大——用户越多,反馈问题的人自然也越多。但显然,大量Claude用户确实遭受了过激的AUP分类器的不当拦截。

从已泄露的Claude Code源代码来看,其情感分析采用了正则表达式匹配这一简化方式,AUP分类器很可能也沿用了类似的捷径——仅逐字检测是否含有敏感词汇,而不考虑上下文语境。

Anthropic对此未予置评。

Q&A

Q1:Claude Opus 4.7的AUP分类器为什么会产生大量误报?

A:Claude Opus 4.7在发布时配套了更严格的安全护栏,旨在自动检测并拦截涉及禁止或高风险网络安全用途的请求。然而,从已泄露的Claude Code源代码来看,其分类器可能采用了正则表达式匹配等简化方式,仅检测敏感词汇而不考虑上下文语境,导致大量无害的合规请求也被错误拦截。

Q2:Anthropic为网络安全研究人员设立的AUP豁免机制是否有效?

A:根据开发者反馈,这一豁免机制存在明显缺陷。编号49679的GitHub议题显示,已获批准的网络安全用例豁免授权在Claude Chat中可正常生效,但在通过API使用Claude Code(Opus版本)时,豁免权限未能完整传递,安全系统仍会持续产生误报拦截。

Q3:Claude Opus 4.7的AUP误报问题从什么时候开始明显加剧?

A:根据GitHub上的投诉趋势,2025年7月至9月每月约有两至三条相关投诉,10月至11月上升至五至七条,1月至3月维持在约八条左右。进入4月后,投诉数量急剧攀升,仅一个月内开发者便提交了超过30份疑似误报报告,涉及安全、通用开发及科学类请求等多个领域。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
武汉公开赛签表出炉!丁俊晖再陷死亡之区,赵心童签运绝佳!

武汉公开赛签表出炉!丁俊晖再陷死亡之区,赵心童签运绝佳!

世界体坛观察家
2026-08-21 14:46:39
字母哥的雷阿伦!4冠神射加盟热火,补齐首发短板,东部更乱了

字母哥的雷阿伦!4冠神射加盟热火,补齐首发短板,东部更乱了

你的篮球频道
2026-08-22 07:23:11
连续25年破门!41岁C罗丝滑转身征服3对手:队史射手王 生涯977球

连续25年破门!41岁C罗丝滑转身征服3对手:队史射手王 生涯977球

风过乡
2026-08-22 06:24:27
好家伙!吴镇宇《蝉》刚播就被五星刷屏,观众的好评理由出奇一致

好家伙!吴镇宇《蝉》刚播就被五星刷屏,观众的好评理由出奇一致

糊咖娱乐
2026-08-21 12:02:57
台湾媒体语出惊人!北京没有冰箱,42度的气温,还吃辣椒,也不喝冷饮

台湾媒体语出惊人!北京没有冰箱,42度的气温,还吃辣椒,也不喝冷饮

小徐讲八卦
2026-08-20 14:08:06
风光散尽!前首富黄光裕近况曝光,隐居广州豪宅静养

风光散尽!前首富黄光裕近况曝光,隐居广州豪宅静养

静若梨花
2026-08-16 10:37:49
两性心理学:女人最让男人销魂的,性关系中不是长腿大胸,而是这两种“顶级磁场”

两性心理学:女人最让男人销魂的,性关系中不是长腿大胸,而是这两种“顶级磁场”

心理观察局
2026-08-14 07:38:16
越来越多人把旧车停家里不报废,内行人说:这才是算明白的人

越来越多人把旧车停家里不报废,内行人说:这才是算明白的人

刘哥谈体育
2026-08-20 03:59:37
杭州9岁男孩一天独自坐地铁213公里,妈妈放手支持又十分不解:为什么他对地铁这么着迷?

杭州9岁男孩一天独自坐地铁213公里,妈妈放手支持又十分不解:为什么他对地铁这么着迷?

都市快报橙柿互动
2026-08-21 10:23:58
王菲也没想到,高原竟不给窦唯留一丝体面,108万抚养费真相大白

王菲也没想到,高原竟不给窦唯留一丝体面,108万抚养费真相大白

娱说瑜悦
2026-08-21 20:09:12
男乒多次在大赛中无缘八强,不是男乒变弱了,其实在下一盘大棋

男乒多次在大赛中无缘八强,不是男乒变弱了,其实在下一盘大棋

鸿印百合
2026-08-21 22:16:00
这个社会怎么了?国家连年给退休人员涨养老金,还有人吐槽没必要

这个社会怎么了?国家连年给退休人员涨养老金,还有人吐槽没必要

兵卒史
2026-08-13 13:02:09
76比88惨败意大利!女篮海外热身赛遭开门黑:宫鲁鸣该反省反省了?

76比88惨败意大利!女篮海外热身赛遭开门黑:宫鲁鸣该反省反省了?

篮球快餐车
2026-08-22 03:43:55
末伏一定要存阳气,从明天起早餐水煮蛋换成它,生阳气,暖脾胃

末伏一定要存阳气,从明天起早餐水煮蛋换成它,生阳气,暖脾胃

江江食研社
2026-08-22 07:30:25
太可惜!斯科拉里曾主动来华自荐执教国足:只要750万美元

太可惜!斯科拉里曾主动来华自荐执教国足:只要750万美元

邱泽云
2026-08-21 18:49:06
“LV全国多地门店关闭”上热搜!价格暴跌,越来越不配称为奢侈品

“LV全国多地门店关闭”上热搜!价格暴跌,越来越不配称为奢侈品

嫹笔牂牂
2026-08-22 07:16:41
北京地铁有乘客车厢内吃榴莲,气味浓烈难以忍受;地铁回应:包装完好可携带但禁止进食

北京地铁有乘客车厢内吃榴莲,气味浓烈难以忍受;地铁回应:包装完好可携带但禁止进食

糖逗在娱乐
2026-08-22 00:03:42
国产动画《牛来》有望在香港上映?凭粗糙画风爆火,百老汇电影中心回复香港网友引期待

国产动画《牛来》有望在香港上映?凭粗糙画风爆火,百老汇电影中心回复香港网友引期待

星岛记事
2026-08-20 16:05:27
5比0血洗曼联后仅坎通纳开口:真他X的强队

5比0血洗曼联后仅坎通纳开口:真他X的强队

慢享生活集
2026-08-21 16:11:23
续约闹剧落幕!美媒预测杜伦4年1.4亿留守活塞,远低于超级顶薪

续约闹剧落幕!美媒预测杜伦4年1.4亿留守活塞,远低于超级顶薪

夜白侃球
2026-08-21 12:21:11
2026-08-22 08:07:00
至顶科技 incentive-icons
至顶科技
科技产业媒体与 AI 产业服务机构
21178文章数 49729关注度
往期回顾 全部

科技要闻

阿里AI的两面:云赚56亿,千问烧掉138亿

头条要闻

老房因液化气罐爆燃坍塌致3死 次日被加急安装报警器

头条要闻

老房因液化气罐爆燃坍塌致3死 次日被加急安装报警器

体育要闻

续哈登+招沃特森=骑士赌了

娱乐要闻

冯绍峰七夕带儿子游玩!次日聚会

财经要闻

蔡昉解读经济:扩大消费需求的政策思考

汽车要闻

2026成都车展:小鹏全阵容亮相 三款新车套件上新

态度原创

旅游
数码
房产
本地
军事航空

旅游要闻

大理这口潭原来叫无底潭,一对恋人投潭之后,满山蝴蝶都赶来了!

数码要闻

韶音发布首款AI耳机OpenFit 2:售1398元 联合千问大模型

房产要闻

两大热盘即将入市!三亚又一批安居房狠货要炸场了!

本地新闻

《牛来》的一声“妈妈”,到底多少人被精神污染了

军事要闻

俄在争议岛屿附近进行导弹训练 日本:无法接受

无障碍浏览 进入关怀版