网易首页 > 网易科技 > 网易科技 > 正文

Claude Fable 5发布后撞上两道墙:安全研究员嫌太严,微软限制员工使用

0
分享至

6月11日消息,Anthropic昨日向公众发布Claude Fable 5。这是其Mythos级模型首次以受限版本面向更广泛用户开放。上线不到一天,Fable 5同时遭遇两类质疑:网络安全研究人员发现安全护栏过度拦截日常工作请求,微软则因数据留存规则与内部合规冲突,限制员工使用这款模型。

安全模型先挡住了安全从业者

Fable 5的护栏有前因。今年4月,Anthropic首次发布Mythos级模型时,仅通过"玻璃翼计划"(Project Glasswing)向少数公司和机构开放,目标是保护关键软件和基础设施。上周,访问范围扩大到15个国家的数百家机构。Fable 5是这条路线的下一步:把Mythos级能力以更强安全约束的形式推向公众。

问题是,护栏很快挡住了它最该服务的一批人。

IBM X-Force安全研究员瓦伦蒂娜·帕尔米奥蒂(Valentina "Chompie" Palmiotti)在社交媒体上称,Fable会拒绝许多与网络安全相关的请求,甚至包括阅读博客文章。触发拦截时,模型提示安全措施已将消息标记为涉及网络安全或生物学话题。

安全研究员马特·苏伊什(Matt Suiche)告诉TechCrunch,如果让Fable编写安全相关代码,模型可能将请求归入"网络安全任务"而非普通软件工程,随后降级到Claude Opus 4.8处理。苏伊什认为,分类机制看起来由关键词或主题领域触发。这一判断来自受访者观察,Anthropic尚未公开说明分类器的具体工作方式。

Anthropic提供了"网络安全验证项目"(Cyber Verification Program),获批的安全专业人士可在相关工作中获得更少限制。但对临时测试、快速验证和普通安全团队来说,申请审核本身就是额外门槛。

企业客户卡在数据留存上

另一道墙来自企业合规。据The Verge报道,微软正在限制员工内部使用Claude Fable 5,原因是Anthropic设置了不同于其他Claude模型的数据留存规则。

具体而言,Fable 5会为安全分类器保留用户提示词和模型输出,通常30天后删除;若内容被信任与安全机制标记为违反使用政策,最长可保存两年。微软此前使用的其他Claude模型运行在"零数据留存"(Zero Data Retention)规则下,Fable的新规则触发了法务审查。

直接影响是:外部客户已可通过GitHub Copilot和Foundry使用Claude Fable 5,但微软内部员工的模型选择器中暂时看不到它。知情人士称,微软法务团队主要担忧客户数据和保密信息的暴露风险,最终是否放行尚未确定。微软拒绝向The Verge置评。

更强的模型,更高的部署摩擦

Fable 5的尴尬在于:它被设计为更强的安全模型,却因安全部署本身的要求,同时卡住了专业用户和企业内部流程。

对安全研究员而言,代码审查、漏洞分析、阅读安全文章是日常工作。如果每次触及敏感主题都可能被拦截或降级,Fable就不是随手可用的工具,而更像需要提前申请权限的受控系统。

对企业客户而言,问题更直接:员工能不能把客户材料、内部代码、合同信息或未公开产品计划交给Fable 5处理?即便数据只保存30天,也足以让法务和信息安全团队重新评估使用边界。微软的限制尚不等于最终禁用,但它给出了一个信号:模型能力越强,围绕数据留存、审计和误用防护的部署成本也会一起上升。(易句)

(本文由AI翻译,网易编辑负责校对)

相关推荐
热点推荐
安徽四市最新人事,涉市委常委、副市长等

安徽四市最新人事,涉市委常委、副市长等

凤凰网安徽
2026-09-15 18:59:33
41岁吉布森宣布退役!结束17年生涯百感交集 将加入公牛教练组

41岁吉布森宣布退役!结束17年生涯百感交集 将加入公牛教练组

罗说NBA
2026-09-15 05:26:07
80000公里血泪教训,燃油车和电车根本不是一个档次,后悔晚了

80000公里血泪教训,燃油车和电车根本不是一个档次,后悔晚了

周哥一影视
2026-09-14 09:26:32
35岁刘翔前妻承认整容!回应择偶标准:我现在喜欢有脑子有担当的

35岁刘翔前妻承认整容!回应择偶标准:我现在喜欢有脑子有担当的

念洲
2026-09-15 08:17:53
47岁女人直言:丈夫外出务工,不到半年,我在家没有守住初心了

47岁女人直言:丈夫外出务工,不到半年,我在家没有守住初心了

拾代谈生活
2026-09-14 16:59:09
俞敏洪抛出惊人言论:我有两个大学男同学已经死了,都是家庭条件很好,但俩人没有抵抗挫折和不幸的能力

俞敏洪抛出惊人言论:我有两个大学男同学已经死了,都是家庭条件很好,但俩人没有抵抗挫折和不幸的能力

心理观察局
2026-06-03 07:17:10
9分!韩国名导科幻新片曝外星生物,北美1500馆上映

9分!韩国名导科幻新片曝外星生物,北美1500馆上映

影视情报室
2026-09-14 19:29:35
1992年我国开出20倍优厚薪酬招揽乌克兰顶尖军工专家,却始终没能获得图-160“白天鹅”,30年后,秦岭深处腾空的国产重器,让西方集体沉默

1992年我国开出20倍优厚薪酬招揽乌克兰顶尖军工专家,却始终没能获得图-160“白天鹅”,30年后,秦岭深处腾空的国产重器,让西方集体沉默

人生录
2026-09-15 00:05:14
政委和政治部主任都是上将,军长仅是大校,毛主席:最低也得少将

政委和政治部主任都是上将,军长仅是大校,毛主席:最低也得少将

春秋砚
2026-09-15 19:20:03
罗永浩吐槽野人先生风波升级!前合伙人黄斌怒批:山猪吃不了细糠的审美

罗永浩吐槽野人先生风波升级!前合伙人黄斌怒批:山猪吃不了细糠的审美

小徐讲八卦
2026-09-15 09:26:15
北京国安vs浦项铁人主裁贾西姆数据:近20场执法87黄6红10点

北京国安vs浦项铁人主裁贾西姆数据:近20场执法87黄6红10点

懂球帝
2026-09-15 00:23:37
黄永胜被问起最好的上级是谁,他直言除了毛主席外,最敬佩的就是罗帅

黄永胜被问起最好的上级是谁,他直言除了毛主席外,最敬佩的就是罗帅

微野谈写作
2026-09-15 15:10:07
国内将逐渐停止 “胆囊切除术”?做完人就废了?医生讲出实情

国内将逐渐停止 “胆囊切除术”?做完人就废了?医生讲出实情

健康科普365
2026-09-12 14:30:16
敬一丹走了我才敢说:退休最可怕的不是没钱,是“不懂停下来”

敬一丹走了我才敢说:退休最可怕的不是没钱,是“不懂停下来”

金哥说新能源车
2026-09-15 06:41:05
同学聚会后彻底破防!除了考上公务员的,其他的都回到了原生阶层

同学聚会后彻底破防!除了考上公务员的,其他的都回到了原生阶层

朗威谈星座
2026-09-15 12:34:21
“飞行的硫酸”又来了!家住17层,屋内发现隐翅虫;北方多地有人中招,有人沾上它面部红肿长满水疱;专家:碘伏、盐水、牙膏、酱油都别用

“飞行的硫酸”又来了!家住17层,屋内发现隐翅虫;北方多地有人中招,有人沾上它面部红肿长满水疱;专家:碘伏、盐水、牙膏、酱油都别用

扬子晚报
2026-09-15 11:20:59
老人穿旧军装坐高铁被妇人嘲讽,到站时军官列队,她脸白了

老人穿旧军装坐高铁被妇人嘲讽,到站时军官列队,她脸白了

小月故事
2025-07-08 20:35:29
就此反弹?亚运会男篮最大收获竟非李悦洲 他找回状态力助郭士强

就此反弹?亚运会男篮最大收获竟非李悦洲 他找回状态力助郭士强

大嘴爵爷侃球
2026-09-15 11:56:23
吉林工商学院原党委书记张吉锋主动交代问题,正接受调查

吉林工商学院原党委书记张吉锋主动交代问题,正接受调查

新京报
2026-09-15 15:33:18
A股:今天跌破3870了,提前做好准备,明天周三可能这样走

A股:今天跌破3870了,提前做好准备,明天周三可能这样走

明心
2026-09-15 16:30:29
2026-09-15 20:04:49

科技要闻

芯片产业链蒸发超5000亿美元,特朗普大怒

头条要闻

盗窃犯刑满释放前8天改判死缓 检方称其"天生的罪犯"

头条要闻

盗窃犯刑满释放前8天改判死缓 检方称其"天生的罪犯"

体育要闻

皇马启动舆论攻势,为姆巴佩冲击金球造势

娱乐要闻

谢霆锋示爱王菲、和前妻划清界限

财经要闻

黄仁勋接到特朗普电话:AI风险论是"骗局"

汽车要闻

小鹏G9L第二代VLA体验:“理解时间”会推理的老司机

态度原创

艺术
手机
本地
公开课
军事航空

艺术要闻

琶洲新地标!丸美总部大楼,楼梯创世界记录!

手机要闻

新一代骁龙旗舰平台蓄势待发,智能体手机终于能「办事」了?

本地新闻

不止胖东来!许昌藏着半部三国史

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

穆杰塔巴近况披露 地方官员:他身体非常健康

无障碍浏览 进入关怀版
×