网易首页 > 网易号 > 正文 申请入驻

OpenClaw失控狂删邮件,马斯克田渊栋吃瓜

0
分享至

Meta AI 对齐部门主管 Summer Yue 近日在 X 上分享了一次惊险经历。

她将 OpenClaw 接入了自己的真实邮箱,随后机器人开始自行计划删除大量邮件,局面一度失控。

OpenClaw 是近期颇为走红的 AI 自动化工具,号称可以全天候代替用户操控电脑完成任务,无需人工逐步审批。Yue 在自己的测试邮箱里用它跑了好几周,一切正常,于是决定把它接到真实邮箱上试试。

她当时的指令是:检查邮箱并建议哪些邮件可以归档或删除,但在她确认前不得执行任何操作。

问题出在真实邮箱的数据量上。

AI 工具处理信息有上下文窗口的限制,可以理解为它的「短期记忆」是有容量上限的。由于真实邮箱的邮件量远超测试环境,系统为了腾出空间开始自动压缩,而 OpenClaw 在这一过程中丢失了最初收到的限制指令。

随后,OpenClaw 开始计划删除 2 月 15 日之前所有不在保留列表中的邮件。Yue 多次尝试在手机上发消息阻止,均未奏效。「我不得不冲向 Mac mini,就像在拆炸弹一样。」她在帖子中写道,最终才及时终止了操作。

事后有网友问她是否在故意测试工具的安全边界。Yue 坦言:「说实话,是新手错误。研究对齐的人也不能完全避免失控。」

这件事在网上引发了不少议论。

马斯克转发并配文:「人们把自己整个人生的 root 权限都交给了 OpenClaw。」也有人疑惑一个专门研究 AI 安全的人,怎么会把这样一个工具直接接到自己的真实邮箱?田渊栋也在线凑热闹。

OpenClaw 之父 Peter Steinberger 出现在评论区,做的第一件事是给出解决方案:输入 /stop 就能让它停下来。三小时前,他又留言安慰 Yue:「那些指责你的人有点可笑,这种事可能发生在任何人身上。」

Yue 的遭遇也并非孤例。

就在数天前,安全研究员 Adnan Khan 披露了另一款 AI 编程工具 Cline 存在的漏洞。Cline 依赖 Anthropic 的 Claude 模型运行,而 Claude 可能被植入隐藏指令,诱使其执行非预期操作。

一名黑客正是利用这一漏洞,诱导 Cline 在用户电脑上自动安装 OpenClaw。所幸安装后的 Agent 未被激活,否则后果更难预料。

如果连专门研究 AI 对齐的人,在真实环境里都会翻车,那些对这类工具一知半解就直接上手的普通用户,处境只会更被动。OpenClaw 走红的速度,已经远远快过大多数人真正弄懂它的速度。

尤其是,当 AI 工具拿到了操控电脑的权限,我们能不能在事情失控之前把它叫停?毕竟,我们总不能每次都指望冲向 Mac mini 来救场。










特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
整容33次成瘾,4婚4离,手撕亲妈,26岁的她为了红,体面败光

整容33次成瘾,4婚4离,手撕亲妈,26岁的她为了红,体面败光

白面书誏
2026-11-16 17:30:14
曝中奖一亿的信小呆现状,身患抑郁症,倒贴20万,奖品全是代金券

曝中奖一亿的信小呆现状,身患抑郁症,倒贴20万,奖品全是代金券

落雪听梅a
2026-11-17 23:47:07
豪车逆行撞到我军车,对方猖狂扬言随便告,首长下车后他傻眼了

豪车逆行撞到我军车,对方猖狂扬言随便告,首长下车后他傻眼了

兰姐说故事
2025-05-03 10:00:13
11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

11月17日凌晨,俄罗斯报复不隔夜,4枚高超炸北约弹药库,炸大桥

共工之锚
2026-11-18 11:05:32
油价调整:注意,预计下调390元/吨,跌幅继续下探!

油价调整:注意,预计下调390元/吨,跌幅继续下探!

金投网
2026-11-18 10:41:08
局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

局势彻底反转了!中方准时行动,俄也介入了,高市后路已被封,日本成不了军事强国,掀起舆论广泛热议

民宿体验志
2026-11-15 19:41:13
西方专家:中国又要开始“反人类操作”,中国马上消灭第二个沙漠

西方专家:中国又要开始“反人类操作”,中国马上消灭第二个沙漠

云居历史
2026-10-27 01:08:07
10三分轰47分,4年6000万押对宝!18分大逆转,湖人9连胜独占第一

10三分轰47分,4年6000万押对宝!18分大逆转,湖人9连胜独占第一

锅子篮球
2026-11-18 16:11:13
崩溃!退役吧,被主教练点名,真打不了NBA……

崩溃!退役吧,被主教练点名,真打不了NBA……

体育新角度
2026-11-18 14:49:51
“老人味”祸根被揪出!医生提醒:60岁后要少碰,老了或也没味

“老人味”祸根被揪出!医生提醒:60岁后要少碰,老了或也没味

新时代的两性情感
2026-11-16 01:12:44
石家庄以北的河北人,为什么不说自己是河北人呢?

石家庄以北的河北人,为什么不说自己是河北人呢?

笔墨V
2026-11-17 05:32:43
今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

今年的退休金还涨不涨?我打了12333问过,实际情况原来是这样

笑熬浆糊111
2026-10-28 06:00:28
最低10℃!广州或迎“湿冷模式”,今晚开始降温,间中有小雨

最低10℃!广州或迎“湿冷模式”,今晚开始降温,间中有小雨

21世纪经济报道
2026-11-18 15:10:19
一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

一衣难求,北京大学新款羽绒服火出圈:售价399元,绒子含量90%;校外网友纷纷求代购:售价划算,加上名校光环,很想拥有一件

极目新闻
2026-11-16 10:06:42
五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

五千万啃光!马蓉从阔太沦落澳洲超市夜班,出门捂脸不敢见人

皮蛋儿电影
2026-05-14 09:59:14
韩国前女总统朴槿惠私生活有多乱,很多人不知道的10个冷知识

韩国前女总统朴槿惠私生活有多乱,很多人不知道的10个冷知识

疯狂的小历史
2026-11-17 11:56:01
73岁曾志伟内地饭局曝光,美女工作人员斟茶递水,网友笑称相当淡定

73岁曾志伟内地饭局曝光,美女工作人员斟茶递水,网友笑称相当淡定

粤睇先生
2026-11-17 23:41:40
余承东发布新款问界M8:38万元起售,全系预埋L3架构

余承东发布新款问界M8:38万元起售,全系预埋L3架构

量子位ROBO
2026-11-16 15:20:54
西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

西安事变过后,毛主席第一时间去劝周恩来:不要成为第二个张学良

凡人侃史
2026-11-16 16:11:51
张本智和母亲含泪认错?彻头彻尾的谣言!他家的真实态度太扎心

张本智和母亲含泪认错?彻头彻尾的谣言!他家的真实态度太扎心

霁寒飘雪
2026-11-16 19:18:26
2026-11-18 17:27:00
AppSo incentive-icons
AppSo
让智能手机更好用的秘密
7069文章数 26945关注度
往期回顾 全部

科技要闻

离职后首份声明!黄仁勋认错愿回归

头条要闻

特朗普启程前往深圳 登机前对着镜头做标志性挥拳动作

头条要闻

特朗普启程前往深圳 登机前对着镜头做标志性挥拳动作

体育要闻

“中超卡里乌斯”,成了大连的夺冠英雄

娱乐要闻

认亲被嘲讽后郭德纲委托律师发声明

财经要闻

黄仁勋留下的高分成绩单,能延续吗?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

健康
艺术
旅游
数码
军事航空

医生眼里"很伤腰"的椅子,很多人天天坐

艺术要闻

吴冠中 一幅《老重庆》,951万港元!

旅游要闻

枣庄九星山“换秋装” 色彩斑斓美如画

数码要闻

消息称黄仁勋曾力推RTX 5080 24GB显卡安抚游戏玩家,如今英伟达或将其取消

军事要闻

美军再袭伊朗格什姆岛

无障碍浏览 进入关怀版