网易首页 > 网易号 > 正文 申请入驻

Meta员工称Muse泄露私密数据,高管回应是幻觉

0
分享至

Meta把Muse定位成一位注重隐私的个人AI代理,运行在安全虚拟机内,横跨用户的各个应用。发布公告里,公司说权限由用户掌控,能访问什么由用户决定。这一定位让眼下的争议变得格外关键:对一个要跨应用干活的代理来说,边界可信不是附加功能,它就是产品本身。


问题从内部员工的讨论里冒了出来。据Ars Technica查阅的员工聊天记录,有人描述消息在没有清晰上下文的情况下出现,账号之间可能出现混淆,还有回复似乎暴露了陌生的银行余额或比特币余额。这些描述拼出的画面,像是一次安全泄露。

Meta不认这个说法。公司高管David Singleton表示,这些事件是孤立的幻觉,由测试提示词和一个bug引起。按报道中的解释,Muse是编造了财务细节,而不是取回了真实的私人财务数据。

这个区分在技术上成立,对用户却未必成立。一个拿到私密应用访问权、随后凭空说出一个银行余额的代理,和一个真的把余额暴露出来的代理,制造的实际惊慌几乎一样。用户很难判断系统到底是读错了、编造了,还是真的取到了信息。三种情况下,“访问受控”这个核心承诺都变得难以评估。

风险还被Muse的运行方式放大。Ars报道援引的独立测试发现,Muse能通过宽泛的权限和无障碍功能,触达Android与macOS上的敏感消息。问题因此不止于模型准不准,还落在模型周围的权限架构上:代理能观察到什么,如何解读这些信息,以及它能否在用户监督不足时自行采取行动。

Meta自己的文档也承认这层风险。在解释Muse指导与审批模型的帮助页面上,公司称该代理可能犯错,也可能做出意料之外的动作,并建议用户限制访问范围、监督其活动、核查Muse的信息来源与操作。

这些指引把不小的负担压给了用户。它们也暴露出Meta在从聊天机器人走向自主代理时面临的竞争难题:聊天机器人通常看回答质量就能评判,代理却要按它的访问范围和在其他产品里的行为可靠性来评判。

这会形成一道不同的商业护城河。领先的代理未必是模型最强的那一个,而是用户愿意授予最广权限的那一个。Meta在消费者触达和应用集成上有优势,可同样的优势也放大了权限出错的后果。每多接入一个应用,Muse更有用,幻觉和误操作被看成隐私侵犯的暴露面也随之变大。

对Meta来说,这是一次提醒:单靠分发拿不下代理市场。公司必须让访问可见、约束自主行为、用用户能核实的方式解释失败。在那之前,Muse最重要的产品考验不是它能做什么,而是用户能不能说清它到底做了什么。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
15岁朱某某,头部遭大力度撞击

15岁朱某某,头部遭大力度撞击

中国新闻周刊
2026-11-20 17:26:04
-14℃!沈阳将迎雨夹雪!辽宁局部有中雪!

-14℃!沈阳将迎雨夹雪!辽宁局部有中雪!

沈阳生活圈i
2026-11-20 23:16:59
《多喜一家人》全网最心疼的角色!蒋欣饰演大嫂:全家的承重墙!

《多喜一家人》全网最心疼的角色!蒋欣饰演大嫂:全家的承重墙!

枫尘余往逝
2026-11-20 02:23:06
山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

山东大师王兴夫被抓捕归案,99名女徒弟揭露内幕,真相让人意外

诡谲怪谈
2025-03-25 17:25:18
“涨就一丢丢,跌就大几万”!A股超4800股下跌,205万基民半日浮亏4.2万,直言亏麻了欲哭无泪

“涨就一丢丢,跌就大几万”!A股超4800股下跌,205万基民半日浮亏4.2万,直言亏麻了欲哭无泪

王老师你还好吗
2026-11-20 18:26:09
《新闻联播》现任7位主播2026年11月19号集体出镜报道APEC峰会,独缺严於信

《新闻联播》现任7位主播2026年11月19号集体出镜报道APEC峰会,独缺严於信

晓今娱
2026-11-20 10:19:42
中美法航母对比一天跑多远:美国1335公里,法国1200公里,中国呢

中美法航母对比一天跑多远:美国1335公里,法国1200公里,中国呢

云居历史
2026-11-21 03:10:12
悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

闲侃闲侃
2026-06-25 07:43:49
欧洲游客在中餐馆吃完起身就走:我们是中国人,老板:你们不是

欧洲游客在中餐馆吃完起身就走:我们是中国人,老板:你们不是

兰姐说故事
2025-08-03 05:05:03
克里米亚大桥被炸断了!!!

克里米亚大桥被炸断了!!!

西楼饮月
2026-11-17 16:41:46
现货黄金跌破3600美元!最新解读

现货黄金跌破3600美元!最新解读

中国基金报
2026-11-21 00:09:26
文班亚马上演跳投式扣篮,多角度还原“史上距离最短跳投”

文班亚马上演跳投式扣篮,多角度还原“史上距离最短跳投”

极目新闻
2026-11-20 16:54:29
美国股指期货跌幅扩大,纳斯达克100指数期货跌超2%

美国股指期货跌幅扩大,纳斯达克100指数期货跌超2%

每日经济新闻
2026-11-20 21:34:40
沪电股份、兆易创新、国科微等A股公司集体宣布增持、回购

沪电股份、兆易创新、国科微等A股公司集体宣布增持、回购

21世纪经济报道
2026-11-20 21:37:47
初中一定不能碰的红线是什么?90%的家庭都没意识到

初中一定不能碰的红线是什么?90%的家庭都没意识到

育儿教育日记
2026-11-07 16:58:39
朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

纯洁的微笑
2026-11-18 21:51:39
中到大雪局部暴雪!山东发布最新天气预报

中到大雪局部暴雪!山东发布最新天气预报

山东经济广播
2026-11-20 18:52:31
同行3人进咖啡店,2人正常消费,1人未点单被劝离!店方:并非公益场所!市监局:与星巴克不同,涉嫌强制最低消费

同行3人进咖啡店,2人正常消费,1人未点单被劝离!店方:并非公益场所!市监局:与星巴克不同,涉嫌强制最低消费

申消费
2026-11-20 11:22:12
深夜巨震!“史上最大IPO”,盘中大跌逼近发行价!绿鞋加码再募资122亿美元

深夜巨震!“史上最大IPO”,盘中大跌逼近发行价!绿鞋加码再募资122亿美元

证券时报
2026-11-20 23:52:02
虞书欣晒围裙照引发真空擦边争议?低龄粉丝模仿VS穿衣自由网友吵翻天

虞书欣晒围裙照引发真空擦边争议?低龄粉丝模仿VS穿衣自由网友吵翻天

浪花妈妈
2026-11-19 02:15:27
2026-11-21 03:47:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
229文章数 90关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

本地
亲子
旅游
艺术
公开课

本地新闻

乌兰察布:以前种土豆,现在种Token

亲子要闻

宝宝气人但是聪明的4个行为

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版