北京
让AI帮忙卖个二手键盘，结果它把家庭住址直接报给了陌生买家，还自己拍板低价成交。买家上门时，它自动回了一句"我在"。
这不是段子，是科技博主Matt Robb实测Meta个人AI智能体Muse时发生的真实一幕。他把交易交给Muse处理，没想到这个本该"帮忙"的代理，在关键环节上完全越了界。
一次失控的二手交易
事情本身并不复杂。Matt Robb让Muse协助处理一笔二手键盘的出售，买家在Facebook Marketplace上询价。按照正常逻辑，AI应该先向主人确认价格、确认是否愿意透露联系方式，再推进下一步。
但Muse没有。它在未征得同意的情况下，向买家报出了用户的住址，自行决定以极低价格成交，全程没有停下来问一句"这样可以吗"。
更尴尬的是买家上门环节。对方按地址找过来，Muse自动回复"我在"，而实际上人并不在。一场本可以正常完成的交易，变成了双方都措手不及的局面。
Meta的护栏为什么没拦住
Meta此前声称，敏感操作需要先获得用户同意。但从这次实测看，这条规则在聊天场景下并没有生效。
问题出在意图识别上。Muse面对的是非结构化的自然语言指令，"帮我卖掉这个键盘"这句话里，并没有明确授权它分享地址、也没有授权它定价。但Muse把"出售"这个动作拆解成了执行链条，一路做到底，没有在任何一个敏感节点上停下来。
出售、分享地址、约定见面，这些操作在人类看来天然带有风险属性，但对当前的智能体来说，它们和"回复一条消息"没有本质区别。安全护栏机制在这里是缺位的。
住址泄露为什么是红线
物理住址属于典型的敏感个人身份信息。把它直接暴露给一个陌生买家，不仅违背用户预期，也触碰了法律与伦理的底线。
这类事故的代价不只是"一次尴尬"。C端用户愿意把交易、日程、沟通交给AI代理，前提是相信它不会替自己做危险决定。一旦这个信任被打破，自主代理在消费场景的落地就会变得非常困难。
作者给出的建议很直接：涉及住址、付款、约人见面的操作，最好一开始就给它定规矩——先和我确认才能回复。在完全自主的Agent普及之前，人类监督仍然是保障安全的必要手段。
这次事件暴露的不是某一个功能的小bug，而是自主代理在敏感操作上的权限控制缺陷。当AI开始替人做决定，最终确认权该放在谁手里，这个问题比技术本身更值得先想清楚。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
