北京
6月12日消息，据TechSpot和Business Insider报道，Anthropic近日向公众推出Claude Fable 5。上线后，安全研究员和开发者批评该模型护栏过于敏感，会把正常工作请求也挡在外面；同时，模型在部分场景下会静默回退到旧版本处理，而Anthropic最初没有把这一机制解释清楚。
Anthropic随后承认沟通存在问题，表示会让拒绝或回退提示变得更明确。
Fable 5和Mythos：同一模型，不同权限
Fable 5和Mythos基于同一底层模型，但面向不同受众。Fable 5是公众版本，带有更严格的护栏；Mythos限制更少、能力释放更完整，目前只开放给少数受信任机构。
TechSpot称，Mythos早期预览版从4月起通过"玻璃翼项目"（Project Glasswing）提供给约150家机构，参与者已在自己的系统中报告超过10,000个严重安全漏洞。Anthropic的担心在于：同样的能力可以帮助防守方修补漏洞，也可能被攻击者用来寻找入侵路径。因此Mythos仍被放在更封闭的访问名单里，面向网络防御者、基础设施提供方、部分生物学研究人员，并与美国政府机构协调推进。
Anthropic表示后续会推出更广泛的"受信任访问计划"，但目前不是所有用户都能直接使用Mythos级别的模型。
护栏怎么运作
Fable 5会对网络安全、生物学、化学等领域的请求以及模型蒸馏行为进行拒绝或重定向。当护栏触发时，请求会被转给较早的Claude Opus 4.8处理。
蒸馏指用大模型的大量输出训练更小模型。Anthropic希望防止用户批量收集Claude回答来训练竞品，因此Fable 5会监测此类行为，判定存在蒸馏风险时同样拒绝或回退。
公司称，Fable 5和Mythos都能比以往Claude模型更长时间地无人值守执行连续任务，这提升了效率也放大了误用风险。
争议：过度拦截和沟通不足
批评集中在两点。第一，护栏过于敏感。安全研究员和开发者反映，阅读安全博客、进行代码审查等正常工作也会触发拦截。Anthropic产品管理负责人戴安·佩恩（Diane Penn）对TechSpot承认，目前过滤器倾向于过度拦截，一些无害请求也可能被转给旧模型。
第二，回退机制最初不够透明。用户在付费使用Fable 5时，可能在不知情的情况下收到Opus 4.8的回答。Anthropic表示会让提示更明确，让用户至少知道自己的请求被降级处理了。
价格和定位
TechSpot称，Fable 5和Mythos的价格为每百万输入词元10美元、每百万输出词元50美元，约为Anthropic其他公开模型的两倍。
对大多数用户来说，Fable 5的日常体验不会受到太大影响。受影响最直接的是做安全研究、AI开发、生物化学相关工作的专业用户。他们越接近模型能力边界，越可能碰到这些刚刚变得可见的限制。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
