网易首页 > 网易科技 > 网易科技 > 正文

Claude Fable 5发布后撞上两道墙:安全研究员嫌太严,微软限制员工使用

0
分享至

6月11日消息,Anthropic昨日向公众发布Claude Fable 5。这是其Mythos级模型首次以受限版本面向更广泛用户开放。上线不到一天,Fable 5同时遭遇两类质疑:网络安全研究人员发现安全护栏过度拦截日常工作请求,微软则因数据留存规则与内部合规冲突,限制员工使用这款模型。

安全模型先挡住了安全从业者

Fable 5的护栏有前因。今年4月,Anthropic首次发布Mythos级模型时,仅通过"玻璃翼计划"(Project Glasswing)向少数公司和机构开放,目标是保护关键软件和基础设施。上周,访问范围扩大到15个国家的数百家机构。Fable 5是这条路线的下一步:把Mythos级能力以更强安全约束的形式推向公众。

问题是,护栏很快挡住了它最该服务的一批人。

IBM X-Force安全研究员瓦伦蒂娜·帕尔米奥蒂(Valentina "Chompie" Palmiotti)在社交媒体上称,Fable会拒绝许多与网络安全相关的请求,甚至包括阅读博客文章。触发拦截时,模型提示安全措施已将消息标记为涉及网络安全或生物学话题。

安全研究员马特·苏伊什(Matt Suiche)告诉TechCrunch,如果让Fable编写安全相关代码,模型可能将请求归入"网络安全任务"而非普通软件工程,随后降级到Claude Opus 4.8处理。苏伊什认为,分类机制看起来由关键词或主题领域触发。这一判断来自受访者观察,Anthropic尚未公开说明分类器的具体工作方式。

Anthropic提供了"网络安全验证项目"(Cyber Verification Program),获批的安全专业人士可在相关工作中获得更少限制。但对临时测试、快速验证和普通安全团队来说,申请审核本身就是额外门槛。

企业客户卡在数据留存上

另一道墙来自企业合规。据The Verge报道,微软正在限制员工内部使用Claude Fable 5,原因是Anthropic设置了不同于其他Claude模型的数据留存规则。

具体而言,Fable 5会为安全分类器保留用户提示词和模型输出,通常30天后删除;若内容被信任与安全机制标记为违反使用政策,最长可保存两年。微软此前使用的其他Claude模型运行在"零数据留存"(Zero Data Retention)规则下,Fable的新规则触发了法务审查。

直接影响是:外部客户已可通过GitHub Copilot和Foundry使用Claude Fable 5,但微软内部员工的模型选择器中暂时看不到它。知情人士称,微软法务团队主要担忧客户数据和保密信息的暴露风险,最终是否放行尚未确定。微软拒绝向The Verge置评。

更强的模型,更高的部署摩擦

Fable 5的尴尬在于:它被设计为更强的安全模型,却因安全部署本身的要求,同时卡住了专业用户和企业内部流程。

对安全研究员而言,代码审查、漏洞分析、阅读安全文章是日常工作。如果每次触及敏感主题都可能被拦截或降级,Fable就不是随手可用的工具,而更像需要提前申请权限的受控系统。

对企业客户而言,问题更直接:员工能不能把客户材料、内部代码、合同信息或未公开产品计划交给Fable 5处理?即便数据只保存30天,也足以让法务和信息安全团队重新评估使用边界。微软的限制尚不等于最终禁用,但它给出了一个信号:模型能力越强,围绕数据留存、审计和误用防护的部署成本也会一起上升。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
奥斯卡影后破案了!安迪·科恩曝光泄密源头

奥斯卡影后破案了!安迪·科恩曝光泄密源头

影视情报室
2026-06-11 00:37:36
延长5年!成都交警最新通告

延长5年!成都交警最新通告

掌上金牛
2026-06-11 20:14:06
研究表明:性生活越频繁,射精和勃起问题越少!

研究表明:性生活越频繁,射精和勃起问题越少!

黯泉
2026-04-05 20:40:12
李连杰一家三口拜见仁波切,64岁利智许久不见,颜值回春如昔日!

李连杰一家三口拜见仁波切,64岁利智许久不见,颜值回春如昔日!

娱乐团长
2026-06-02 15:09:12
赛力斯赛豆科技正式发布:品牌Logo亮相、首车高颜值!

赛力斯赛豆科技正式发布:品牌Logo亮相、首车高颜值!

快科技
2026-06-09 22:22:17
二战后,320名德国漂亮女军官怕被苏军报复,狂欢后集体选择自杀

二战后,320名德国漂亮女军官怕被苏军报复,狂欢后集体选择自杀

贱议你读史
2026-06-10 22:25:03
55岁男子患有肝硬化每天吃猪肝,半年后复查,医生:你都吃了什么

55岁男子患有肝硬化每天吃猪肝,半年后复查,医生:你都吃了什么

芹姐说生活
2026-06-08 15:25:46
纪委划红线动真格!紧盯公职人员这5种行为,发现一起查处一起!

纪委划红线动真格!紧盯公职人员这5种行为,发现一起查处一起!

职场资深秘书
2026-06-11 15:31:50
混乱世界杯谁来担责?因凡蒂诺:冷静放松,我们只是个体育组织

混乱世界杯谁来担责?因凡蒂诺:冷静放松,我们只是个体育组织

全景体育V
2026-06-11 06:27:14
LABUBU将亮相美加墨世界杯

LABUBU将亮相美加墨世界杯

新浪财经
2026-06-11 21:41:13
黄牌两次清零、“捂嘴”直接红牌 2026世界杯新规详解

黄牌两次清零、“捂嘴”直接红牌 2026世界杯新规详解

新京报
2026-06-11 16:42:14
她是产后发胖唯一受益人,网友:突然就get到了她的美貌 !​

她是产后发胖唯一受益人,网友:突然就get到了她的美貌 !​

木子爱娱乐大号
2026-06-11 15:47:38
“摸奶子”再惹争议,OPPO的流量反噬开始了

“摸奶子”再惹争议,OPPO的流量反噬开始了

品牌头版
2026-05-13 10:18:15
释永信与师姐释永梅合影:20多年前,她胸前挂着当时最时尚手机

释永信与师姐释永梅合影:20多年前,她胸前挂着当时最时尚手机

离离言几许
2026-06-03 22:53:39
第二个乌克兰要来了?特朗普隔空站台,美国瞒天过海,普京被骗了

第二个乌克兰要来了?特朗普隔空站台,美国瞒天过海,普京被骗了

飘逸语人
2026-06-11 12:51:02
李佳琦直播间首次卖车,40台奔驰上架后秒售罄

李佳琦直播间首次卖车,40台奔驰上架后秒售罄

21世纪经济报道
2026-06-11 10:53:54
公牛名宿大型社死!拉尔萨节目爆马库斯比皮蓬强太多

公牛名宿大型社死!拉尔萨节目爆马库斯比皮蓬强太多

绿茵八卦君
2026-06-05 10:32:46
莫斯科突发炸弹攻击!俄罗斯弹药主管达维多夫遇袭身亡

莫斯科突发炸弹攻击!俄罗斯弹药主管达维多夫遇袭身亡

项鹏飞
2026-06-10 21:54:02
我高考709分,跟父亲说考了457分。父亲转头给继母的女儿办升学宴

我高考709分,跟父亲说考了457分。父亲转头给继母的女儿办升学宴

枫红染山径
2026-06-12 01:49:48
黑龙江富豪惨遭灭门,保姆装死逃过一劫,保姆:凶手怎么会是他?

黑龙江富豪惨遭灭门,保姆装死逃过一劫,保姆:凶手怎么会是他?

林林故事揭秘
2025-04-10 17:37:49
2026-06-12 05:52:49

科技要闻

淘宝、京东、拼多多、抖音、小红书被约谈

头条要闻

中方对菲国防部长特奥多罗及其亲属实施制裁

头条要闻

中方对菲国防部长特奥多罗及其亲属实施制裁

体育要闻

比起总冠军,更大的悬念成了FMVP?

娱乐要闻

《花少8》阵容大揭秘!秒杀前一季

财经要闻

干细胞生意:17万一针的希望

汽车要闻

传祺向往M8 PHEV L/E8 PHEV上市 限时落地价16.84万起

态度原创

房产
教育
数码
手机
军事航空

房产要闻

科城·美林学筑5月领跑崖州湾:成交价、销售套数、转化率三项第一

教育要闻

大学一堆的文科硕士毕业生克隆论文,高度雷同,一本正经进行答辩

数码要闻

传闻称苹果首款触控屏 MacBook 已“100% 确认”

手机要闻

小米突然放大招!旧款手机满血复活,只为应对存储涨价潮?

军事要闻

特朗普召开战情室会议讨论对伊朗军事行动

无障碍浏览 进入关怀版
×