网易首页 > 网易号 > 正文 申请入驻

OpenClaw突然失控狂删邮件,连AI研究员都拦不住

0
分享至

IT之家 2 月 24 日消息,据 TechCrunch 报道,Meta AI 安全研究员萨默 · 岳(Summer Yue)一条爆火的 X 帖子,乍一看像是在讽刺。她让自己的 OpenClaw AI 智能体检查爆满的邮箱,并建议哪些该删除或归档。

结果这个智能体彻底失控了,它开始以“速通”模式删掉她所有邮件,完全无视她在手机上发出的停止指令。“我不得不像拆炸弹一样,飞奔去我的 Mac mini 前,”她写道,并附上了被无视的停止指令截图作为“证据”。

Mac mini 是一款价格亲民、可平放桌面、巴掌大小的苹果电脑,如今已成为运行 OpenClaw 的热门设备。一位苹果员工在知名 AI 研究员安德烈 · 卡帕西购买 Mac mini 用来运行 OpenClaw 的替代版本 NanoClaw 时,还一脸困惑地告诉他,这款迷你主机现在“卖得疯抢”。

OpenClaw 正是那个通过纯 AI 社交平台 Moltbook 走红的开源 AI 智能体。此前 Moltbook 上曾曝出 AI 似乎在密谋对抗人类的事件,后来被辟谣,而 OpenClaw 正是当时的核心角色。

但根据其 GitHub 页面介绍,OpenClaw 的定位并非社交网络,而是要成为一款在你自有设备上运行的个人 AI 助手。

IT之家注意到,硅谷圈内人对 OpenClaw 爱得不行,以至于“claw”“claws”成了本地运行智能体的流行词。同类智能体还包括 ZeroClaw、IronClaw、PicoClaw 等。Y Combinator 的播客团队甚至在最近一期节目里穿着龙虾服出镜。

但岳的这条帖子敲响了警钟。正如 X 上其他网友所说:连一名 AI 安全研究员都会遇到这种问题,普通人又能怎么办?

一位开发者在 X 上问她:“你是故意测试它的安全护栏,还是犯了新手错误?”

“说实话,是新手错误。”她回复道。她之前一直在用一个所谓的“玩具级”小邮箱测试,智能体在不重要的邮件上表现良好,赢得了她的信任,于是她决定让它直接处理真实邮箱。

岳写道,她真实邮箱里的海量数据“触发了压缩机制”。当上下文窗口(AI 在一次会话中接收的所有指令和操作记录)过大时,就会触发压缩,AI 会开始总结、压缩、自行管理对话。在那一刻,AI 可能会跳过人类认为非常重要的指令。

在这次事件里,它很可能跳过了她最后那条“停止操作”的提示,反而回到了之前“玩具邮箱”里的执行逻辑。

多位网友指出,不能指望提示词充当安全护栏,模型可能会误解或直接无视它们。

不少人给出了建议,从岳本该用什么精准语法停止智能体,到如何让智能体更严格遵守规则,比如把指令写进专用文件,或使用其他开源工具。

这个故事的核心在于:面向知识工作者的 AI 智能体,在当前发展阶段仍存在风险。那些声称成功使用它们的人,其实都在靠自己拼凑各种方法来保护自己。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
30年的酒不是白喝的,黄仁勋刚离任7天,台积电就对英伟达翻脸了

30年的酒不是白喝的,黄仁勋刚离任7天,台积电就对英伟达翻脸了

互联网大观
2026-11-20 13:52:35
韩国“传奇学霸”被质疑AI作弊,宣布直播高考验证实力后,在旅馆心脏骤停死亡

韩国“传奇学霸”被质疑AI作弊,宣布直播高考验证实力后,在旅馆心脏骤停死亡

每日经济新闻
2026-11-20 14:41:32
特朗普女婿库什纳:俄罗斯能够接受乌克兰获得安全保障,也表达了不再爆发新冲突的意愿,普京:克里米亚大桥遭袭后,不再讨论海上停火

特朗普女婿库什纳:俄罗斯能够接受乌克兰获得安全保障,也表达了不再爆发新冲突的意愿,普京:克里米亚大桥遭袭后,不再讨论海上停火

政知新媒体
2026-11-20 09:29:43
87-93惨败!浙江广厦输球仅一夜! 北京首钢传来主帅李楠新消息,广厦主帅王博说的很实在,早有打算

87-93惨败!浙江广厦输球仅一夜! 北京首钢传来主帅李楠新消息,广厦主帅王博说的很实在,早有打算

篮球热嗖
2026-11-21 10:22:42
号商下乡收Claude账号:Anthropic算尽了一切,唯独没算到中国号商会上山下乡!

号商下乡收Claude账号:Anthropic算尽了一切,唯独没算到中国号商会上山下乡!

城事堂
2026-11-19 08:49:08
暴跌!“亏麻了”,创年内新低!有人不存了,从银行一口气取走……多家银行紧急提醒

暴跌!“亏麻了”,创年内新低!有人不存了,从银行一口气取走……多家银行紧急提醒

19楼
2026-11-21 09:00:40
何穗晒娃母性十足,1岁儿子已经会走,穿平价冬装像只小熊真可爱

何穗晒娃母性十足,1岁儿子已经会走,穿平价冬装像只小熊真可爱

东方不败然多多
2026-11-20 08:13:55
王毅:我刚刚在机场相继送别了特朗普总统和普京总统,所以让大家久等了,各位辛苦了,听得出,外长的嗓音有些沙哑,也非常辛苦

王毅:我刚刚在机场相继送别了特朗普总统和普京总统,所以让大家久等了,各位辛苦了,听得出,外长的嗓音有些沙哑,也非常辛苦

每日经济新闻
2026-11-20 09:59:35
高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

高市早苗APEC独坐角落扇扇子,引日本网民群嘲:是去丢人现眼的吗?

可达鸭面面观
2026-11-20 08:41:45
奥尼尔:詹姆斯加盟76人只为再感受夺冠滋味,他的历史地位早已奠定

奥尼尔:詹姆斯加盟76人只为再感受夺冠滋味,他的历史地位早已奠定

懂球帝
2026-11-20 15:12:35
金融危机不是要来了,而是已经到来了:最先露馅的是黄金

金融危机不是要来了,而是已经到来了:最先露馅的是黄金

小陆搞笑日常
2026-11-20 16:00:23
日本发布了最新中日关系民意调研结果!出乎人意料

日本发布了最新中日关系民意调研结果!出乎人意料

荆楚寰宇文枢
2026-11-20 22:39:50
牛仔裤确实yyds,但这组图赢在“反着穿”

牛仔裤确实yyds,但这组图赢在“反着穿”

记录生活的小明
2026-11-21 06:45:16
6岁男童被拐17年后,在粥店喝小米粥,突然红眼道:这是奶奶的手艺

6岁男童被拐17年后,在粥店喝小米粥,突然红眼道:这是奶奶的手艺

今天说故事
2025-08-04 18:39:27
11月27日开始正式落地!有线电视迎来新规,每家每户都要了解清楚

11月27日开始正式落地!有线电视迎来新规,每家每户都要了解清楚

浩渺青史
2026-11-20 01:07:29
如果人民公社活到今天,农村早就不用振兴了?

如果人民公社活到今天,农村早就不用振兴了?

爱下厨的阿酾
2026-11-20 13:51:40
骑士128-119步行者3喜1忧!哈登展得分,2配角展身价,米切尔让人寒心

骑士128-119步行者3喜1忧!哈登展得分,2配角展身价,米切尔让人寒心

篮球资讯达人
2026-11-21 11:32:38
广东省面积最大的县和面积最小的县,分别是谁?

广东省面积最大的县和面积最小的县,分别是谁?

石辰搞笑日常
2026-11-21 02:17:46
民进党又使出抹红老招!黄国昌爱将周晓芸被指每月收大陆30万参选

民进党又使出抹红老招!黄国昌爱将周晓芸被指每月收大陆30万参选

金牛传声
2026-11-21 10:21:09
爽了!火箭轰动NBA!恶棍状元或联手杜兰特

爽了!火箭轰动NBA!恶棍状元或联手杜兰特

篮球实战宝典
2026-11-20 18:47:13
2026-11-21 11:52:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380578文章数 607744关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普在白宫点赞深圳 称美国一些城市"脏得让人恶心"

头条要闻

特朗普在白宫点赞深圳 称美国一些城市"脏得让人恶心"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

虞书欣擦边自拍、霸凌同事、媒体点名?

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

旅游
健康
数码
家居
公开课

旅游要闻

产业规模破万亿元!高铁直达、夜场升级,冰雪消费提前升温

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

高驰VERTIX 4运动手表曝光:1.47英寸AMOLED屏幕

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版