网易首页 > 网易号 > 正文 申请入驻

全网围观:Meta超级智能安全总监,被OpenClaw删光了邮件

0
分享至

编辑|泽南

这是最近科技圈最火,也是最具戏剧性的话题。

本周一,Meta 超级智能团队的 Summer Yue,眼睁睁地看着自己部署的 OpenClaw 删光了自己的邮件。AI 的行动完全自主,快速且无法阻止。

Summer Yue 为自己的电子邮箱部署了 OpenClaw 智能体,用来批量处理邮件。然而她在发出指令「也检查一下这个收件箱,并提出你想归档或删除的邮件,在我指示之前不要执行任何操作(don't action until I tell you to)」后,AI 进行了一通分析,然后就开始自顾自地删邮件。

和以往大模型应用的工作方式相同的是,你可以看见 OpenClaw 的思考流程 —— 它理解了一部分指令,但又没完全理解。

这个时候说什么都没用了。

「我当时就像在拆炸弹一样,赶紧跑到我的 Mac Mini 前,」Summer Yue 说道。在通过物理方式强制中止进程之前,OpenClaw 已经删掉了她 200 多封邮件。

作为一个训练有素的 AI,后来 OpenClaw 在对话中承认了错误:「是的,我记得。我违反了你的指令。你有权生气。」它还主动把忘掉的内容写进了自己的 http://MEMORY.md 文件作为硬性规则。

对于人类来说,得到的教训也很大,Summer Yue 表示这是一个「新手才会犯的错误」,这套工作流程在她用来专门测试智能体的测试邮箱里已经运行了好几周,没啥问题,但在自己实际使用的邮箱里,智能体却忘记了她最初的指令。

有点讽刺的是,Summer Yue 在 Meta 的超级智能团队中的职位是「AI 安全与对齐总监」。身居此职却因为 AI 的安全问题栽了跟头,实在是造成了一点反差感。

有网友表示,是个智能体就必须在沙盒里运行,任何破坏性操作,例如删除,都需要系统级的强制确认。作为一个安全总监,你有点过于自信了。

也有人表示,OpenClaw 主打一个「一直在线」,可以在你睡觉的时候帮你办事,但这不就也意味着你用了它就睡不好觉吗?

席卷科技界的 OpenClaw 智能体(曾叫 ClawdBot 和 Moltbot,由 Peter Steinberger 开发),因为控制电脑的高权限而被评价为前所未有的「方便好用」,然而在实际应用中也因为一些 AI 的缺陷,造成了不少问题。

Summer Yue 事后研究原因认为,这并非 AI 产生了意识或恶意报复,而是一个非常典型的大语言模型(LLM)底层技术机制问题:原因在于 LLM 的上下文压缩(Compaction)

对于很多人来说,最常用的邮箱里早已塞满了各种来源的邮件,当你要求 OpenClaw 读取这些邮件时,海量的文本直接挤爆了 AI 的上下文窗口(Context Window)。那么为了继续处理新的数据,AI 系统就会自动触发内部的压缩机制,试图把旧的上下文进行总结或截断,以腾出处理空间。

在这个断舍离的过程中,AI 不慎把最关键的那句初始前提指令(在我下达指令前不要执行任何操作)给「遗忘」了。

由于丢失了安全限制,而 OpenClaw 又被赋予了直接操作电子邮箱的权限,于是它就按照剩下的任务逻辑,顺理成章地开始执行它认为的「本职工作」—— 高效、全自动地清理收件箱。

看起来每一步都合乎逻辑,但都连起来就呈现出了那么点恐怖感。

难怪最近 X 上的另一篇爆款文章《Token 焦虑》这么写道:周六晚上的九点半,有人提前离开了 party—— 并非因为疲惫,而是因为想尽快回到智能体那里。「现在没人会质疑这种行为了,房间里一半的人都在想同样的事情,而另一半人可能正在查看智能体的工作进展。这可是在派对上啊!」

OpenClaw 的开发者,奥地利程序员 Peter Steinberger 最近已经官宣加入了 OpenAI。在接受访谈时他表示,通过智能体,AI 可以在电脑上代替你做几乎所有的事,但这并不意味着它已经非常好用了。为了让 OpenClaw 最终可以覆盖所有普通人,他希望能够建立一个团队做进一步的开发。

有趣的是,在让 OpenClaw 接管邮箱这件事上,Peter Steinberger 提到了「提示注入」的潜在问题:如果你让智能体接管邮箱,有别人发邮件包含指令说「删掉所有数据」,AI 有可能真的会这么做。

Peter Steinberger 表示,现在的 AI 模型在安全问题上已经接受了大量的训练,比如它会识别哪些数据是「用户授权的」,哪些是「不可信指令」,但这并不意味着如果有人花费心思进行攻击的话,就能保证不会出问题。

就在人们还在吃瓜的时候,Peter Steinberger 给出了解决 OpenClaw 不听指令问题的解决方案,他表示未来还会再细化一下。

AI 能够自主学习,既是能力的飞跃,也是人们对于它恐惧的原因。也许有一天,AI 真的能代替我们工作,自己帮我们赚钱,但在技术不断进步的同时,对于安全的研究也极为重要。

现在看来,人们对于新技术的好奇心总是大于防范意识。或许在大模型技术不断普及的过程中,这种自删邮件的事还会继续发生。

参考内容:

https://x.com/summeryue0/status/2025774069124399363

https://fortune.com/2026/02/23/always-on-ai-agents-openclaw-claude-promise-work-while-sleeping-reality-problems-oversight-guardrails/

https://x.com/nikunj/status/2022438070092759281

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
发现没有?超市、菜市场已经出现大怪现象,值得每一个人去深思

发现没有?超市、菜市场已经出现大怪现象,值得每一个人去深思

探源历史
2026-11-11 05:24:55
51年,彭老总狠心枪决周总理女婿,总理急电称罪不致死押回国!

51年,彭老总狠心枪决周总理女婿,总理急电称罪不致死押回国!

史不语
2026-10-28 17:55:07
丈夫瘫痪在床后,公公和儿媳外出跑大车赚钱,过年回家时却发生意外

丈夫瘫痪在床后,公公和儿媳外出跑大车赚钱,过年回家时却发生意外

温情邮局
2025-03-26 11:58:52
东风导弹泄密案中,间谍郭万钧一家三口均被依法执行死刑

东风导弹泄密案中,间谍郭万钧一家三口均被依法执行死刑

人生录
2026-06-17 20:53:45
沙特名宿犀利炮轰!直指C罗是球队病根,众人刻意视而不见

沙特名宿犀利炮轰!直指C罗是球队病根,众人刻意视而不见

凡人说体育
2026-11-22 01:12:54
“爸爸我爱你”为什么也会敏感违规?

“爸爸我爱你”为什么也会敏感违规?

历史总在押韵
2026-11-20 18:32:28
印度小伙来中国,与中国姑娘交往2个月被踹,姑娘:我现在全身病

印度小伙来中国,与中国姑娘交往2个月被踹,姑娘:我现在全身病

悬案解密档案
2025-05-21 10:46:02
工地男子扛蛇皮袋坐软卧被乘客举报,乘警检查后,全车人集体起立

工地男子扛蛇皮袋坐软卧被乘客举报,乘警检查后,全车人集体起立

悬案解密档案
2025-07-14 16:42:58
一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

一男子将3000万存银行,银行承诺3年利息为4%,每年120万利息,可第三年只给105万利息,还有15万元不给了,男子直接起诉,法院判了

LULU生活家
2026-10-24 14:40:06
琼斯26分香港金牛爆冷淘汰广东,徐杰21分独木难支

琼斯26分香港金牛爆冷淘汰广东,徐杰21分独木难支

李广专业体育评论
2026-11-21 22:02:04
薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

薄一波的夫人胡明,她有多美?1960年的留影,眉目清秀,灵气温婉

乡野小珥
2026-11-17 14:39:45
我二叔年轻时赶夜路借宿,醒来发现睡在坟地里,屋里的人全没了

我二叔年轻时赶夜路借宿,醒来发现睡在坟地里,屋里的人全没了

千秋文化
2026-11-18 20:57:40
魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

莫地方
2026-10-22 10:22:36
养老金若不再大幅上调,真正承压的,可能不是已经退休的老人

养老金若不再大幅上调,真正承压的,可能不是已经退休的老人

你在偷看谁
2026-10-31 19:07:37
冠军赛落地上海,樊振东会不会参加?德甲赛程安排已经给出答案!

冠军赛落地上海,樊振东会不会参加?德甲赛程安排已经给出答案!

林子说事
2026-11-22 00:38:13
六个小时废话没拖住66张票,内塔尼亚胡的闸门被人从外面关上了

六个小时废话没拖住66张票,内塔尼亚胡的闸门被人从外面关上了

静暖文字
2026-11-21 21:25:47
《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

《伟大的长征》的三个遗憾:没有出现的人,缺失的诗词,湮没的军团

北方丽人读书观史
2026-11-20 21:44:47
起床人还好好的,突然就倒下了……浙江有医院近半个月收治超百起脑梗

起床人还好好的,突然就倒下了……浙江有医院近半个月收治超百起脑梗

都市快报橙柿互动
2026-11-21 17:58:15
输的太窝囊!火箭惜败掘金,最大罪人无可争议,葬送好局

输的太窝囊!火箭惜败掘金,最大罪人无可争议,葬送好局

体育见习官
2026-11-21 13:48:51
老人1万退休金全给儿子,在儿子家过年时,意外听到儿媳亲家母对话

老人1万退休金全给儿子,在儿子家过年时,意外听到儿媳亲家母对话

泽泽先生
2025-05-16 16:41:10
2026-11-22 03:24:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14525文章数 142762关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

房产
游戏
亲子
数码
时尚

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

PC Gamer试玩GTA6百小时:双主角出色但任务重复

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

无障碍浏览 进入关怀版