网易首页 > 网易科技 > 网易科技 > 正文

Claude Fable 5发布后撞上两道墙:安全研究员嫌太严,微软限制员工使用

0
分享至

6月11日消息,Anthropic昨日向公众发布Claude Fable 5。这是其Mythos级模型首次以受限版本面向更广泛用户开放。上线不到一天,Fable 5同时遭遇两类质疑:网络安全研究人员发现安全护栏过度拦截日常工作请求,微软则因数据留存规则与内部合规冲突,限制员工使用这款模型。

安全模型先挡住了安全从业者

Fable 5的护栏有前因。今年4月,Anthropic首次发布Mythos级模型时,仅通过"玻璃翼计划"(Project Glasswing)向少数公司和机构开放,目标是保护关键软件和基础设施。上周,访问范围扩大到15个国家的数百家机构。Fable 5是这条路线的下一步:把Mythos级能力以更强安全约束的形式推向公众。

问题是,护栏很快挡住了它最该服务的一批人。

IBM X-Force安全研究员瓦伦蒂娜·帕尔米奥蒂(Valentina "Chompie" Palmiotti)在社交媒体上称,Fable会拒绝许多与网络安全相关的请求,甚至包括阅读博客文章。触发拦截时,模型提示安全措施已将消息标记为涉及网络安全或生物学话题。

安全研究员马特·苏伊什(Matt Suiche)告诉TechCrunch,如果让Fable编写安全相关代码,模型可能将请求归入"网络安全任务"而非普通软件工程,随后降级到Claude Opus 4.8处理。苏伊什认为,分类机制看起来由关键词或主题领域触发。这一判断来自受访者观察,Anthropic尚未公开说明分类器的具体工作方式。

Anthropic提供了"网络安全验证项目"(Cyber Verification Program),获批的安全专业人士可在相关工作中获得更少限制。但对临时测试、快速验证和普通安全团队来说,申请审核本身就是额外门槛。

企业客户卡在数据留存上

另一道墙来自企业合规。据The Verge报道,微软正在限制员工内部使用Claude Fable 5,原因是Anthropic设置了不同于其他Claude模型的数据留存规则。

具体而言,Fable 5会为安全分类器保留用户提示词和模型输出,通常30天后删除;若内容被信任与安全机制标记为违反使用政策,最长可保存两年。微软此前使用的其他Claude模型运行在"零数据留存"(Zero Data Retention)规则下,Fable的新规则触发了法务审查。

直接影响是:外部客户已可通过GitHub Copilot和Foundry使用Claude Fable 5,但微软内部员工的模型选择器中暂时看不到它。知情人士称,微软法务团队主要担忧客户数据和保密信息的暴露风险,最终是否放行尚未确定。微软拒绝向The Verge置评。

更强的模型,更高的部署摩擦

Fable 5的尴尬在于:它被设计为更强的安全模型,却因安全部署本身的要求,同时卡住了专业用户和企业内部流程。

对安全研究员而言,代码审查、漏洞分析、阅读安全文章是日常工作。如果每次触及敏感主题都可能被拦截或降级,Fable就不是随手可用的工具,而更像需要提前申请权限的受控系统。

对企业客户而言,问题更直接:员工能不能把客户材料、内部代码、合同信息或未公开产品计划交给Fable 5处理?即便数据只保存30天,也足以让法务和信息安全团队重新评估使用边界。微软的限制尚不等于最终禁用,但它给出了一个信号:模型能力越强,围绕数据留存、审计和误用防护的部署成本也会一起上升。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
8.27亿元,梁文锋“赚麻了”!

8.27亿元,梁文锋“赚麻了”!

中国经济网
2026-07-27 17:35:06
研究发现微生物可将铀污染物转化为稳定的化合物

研究发现微生物可将铀污染物转化为稳定的化合物

cnBeta.COM
2026-07-13 06:42:37
央视曝光“毒药材”:借1元链接销往全国,网友怒了:没有良心!

央视曝光“毒药材”:借1元链接销往全国,网友怒了:没有良心!

青梅侃史啊
2026-07-27 14:27:27
日本著名推理小说家东野圭吾去世,享年68岁

日本著名推理小说家东野圭吾去世,享年68岁

界面新闻
2026-07-27 15:12:43
王虹当年差点不能留学,原因是北大数院无人肯写推荐信,无奈找到大一班主任雷军,网友:难怪数院不好意思祝贺

王虹当年差点不能留学,原因是北大数院无人肯写推荐信,无奈找到大一班主任雷军,网友:难怪数院不好意思祝贺

谭谈社会
2026-07-27 18:25:23
3战全胜!中国男篮双杀喀麦隆获3连胜 贺希宁25+6赵嘉义21分

3战全胜!中国男篮双杀喀麦隆获3连胜 贺希宁25+6赵嘉义21分

醉卧浮生
2026-07-27 21:21:12
医疗界大地震!不出意外的话,2026年起我国的医院将迎来全面洗牌

医疗界大地震!不出意外的话,2026年起我国的医院将迎来全面洗牌

白宸侃片
2026-07-27 12:08:28
上海市消防救援总队原党委副书记、总队长李伟民被查

上海市消防救援总队原党委副书记、总队长李伟民被查

新京报
2026-07-27 19:16:20
王虹导师偷看王虹演讲被拍,穿着朴素,眼神满是欣赏,网友汗颜:他竟然没有掠夺学生的成果!

王虹导师偷看王虹演讲被拍,穿着朴素,眼神满是欣赏,网友汗颜:他竟然没有掠夺学生的成果!

谭谈社会
2026-07-27 14:29:08
意媒CEO:马尔蒂尼用10天犯了所有不该犯的错,别迷信旗帜了

意媒CEO:马尔蒂尼用10天犯了所有不该犯的错,别迷信旗帜了

懂球帝
2026-07-27 17:48:08
泽连斯基深夜爆料:俄军又要从朝鲜搬3万救兵,这次连导弹发射车都打包了

泽连斯基深夜爆料:俄军又要从朝鲜搬3万救兵,这次连导弹发射车都打包了

健身狂人
2026-07-27 12:57:49
5人溺亡!游客罔顾多重避险机会,贸然涉险,事发福建石狮永宁镇观音山海域

5人溺亡!游客罔顾多重避险机会,贸然涉险,事发福建石狮永宁镇观音山海域

火山詩话
2026-07-27 15:36:58
看了北京外公,再看上海爷爷,才明白:戴“穷酸首饰”有多毁气质

看了北京外公,再看上海爷爷,才明白:戴“穷酸首饰”有多毁气质

白宸侃片
2026-07-27 11:54:39
杀疯了!19个交易日跌43%,今日再迎10CM跌停,4万股民全线深套!

杀疯了!19个交易日跌43%,今日再迎10CM跌停,4万股民全线深套!

趋势清风侠
2026-07-27 16:39:53
美伊这一场军事较量,彻底让全世界警惕中国!

美伊这一场军事较量,彻底让全世界警惕中国!

安安说
2026-07-27 10:26:35
独家|碧桂园卖掉长鑫科技“痛失490亿”细节

独家|碧桂园卖掉长鑫科技“痛失490亿”细节

蓝鲸新闻
2026-07-27 19:30:12
47亿美元大桥通车,美国人却被告知“别来”,加拿大市长心酸:有点冷清,但没关系

47亿美元大桥通车,美国人却被告知“别来”,加拿大市长心酸:有点冷清,但没关系

红星新闻
2026-07-27 14:45:10
直击甘肃渭源洪灾:救援仍在持续,搜查范围扩大至下游20公里

直击甘肃渭源洪灾:救援仍在持续,搜查范围扩大至下游20公里

封面新闻
2026-07-27 22:02:36
长鑫科技市值冲破3.66万亿元,碧桂园“地板价”离场错失470亿元

长鑫科技市值冲破3.66万亿元,碧桂园“地板价”离场错失470亿元

中新经纬
2026-07-27 13:17:15
央媒调查:验收“过关”的6000亩灌溉项目沦为摆设,何以“纸面惠民”

央媒调查:验收“过关”的6000亩灌溉项目沦为摆设,何以“纸面惠民”

澎湃新闻
2026-07-27 17:58:32
2026-07-27 22:55:00

科技要闻

长鑫科技上市首日收涨465%,市值3.28万亿

头条要闻

媒体:特朗普虚晃一枪 时隔一天对伊态度180度大转弯

头条要闻

媒体:特朗普虚晃一枪 时隔一天对伊态度180度大转弯

体育要闻

说过不会再回NBA的男人,又回来了

娱乐要闻

具俊晔零成本拿下大S房产

财经要闻

破产德企如何托起长鑫科技的逆袭之路

汽车要闻

2026宝马摩托车文化节举行 三款新车上市

态度原创

健康
教育
时尚
艺术
军事航空

中风急救,第一时间该做什么?

教育要闻

“年薪48万起,前途光明到走夜路不用开灯!”广西658分考生放弃985选择北邮元班

夏天T恤别总穿黑色,试试这几款条纹T恤,减龄大方又有个性

艺术要闻

猫狗题材油画 | 德裔匈牙利画家Arthur Heyer

军事要闻

美军中东最高指挥官建议停止轰炸霍尔木兹

无障碍浏览 进入关怀版
×