网易首页 > 网易号 > 正文 申请入驻

AI智能体失控,它把Meta安全总监的200多封邮件删了

0
分享至

一家科技大厂的安全总监,被一款AI Agent产品删除大量邮件,如此戏剧性的事件正在如今的AI行业内发生。

2月23日,Meta超级智能实验室AI对齐与安全总监Summer Yue(以下简称Yue)发文表示,没有什么比命令OpenClaw“确认后再操作”、然后眼睁睁看它以极快速度删除收件箱这件事更令人崩溃的了。“我根本无法在手机上阻止它,只能像拆炸弹一样冲到我的MacMini前。”

OpenClaw作为近几个月内大热的AI Agent产品,吸引大量从业者与开发者上手尝试,Yue也为自己的电子邮箱部署了OpenClaw智能体,用来批量处理邮件。据她介绍,Yue向OpenClaw提出的具体指令为:“也检查一下这个收件箱,并提出你想归档或删除的邮件,在我指示之前不要执行任何操作。”这种方法在测试版收件箱上运行良好,但真实邮箱太大,触发压缩机制,导致OpenClaw丢失了最初的指令。

Yue上传的沟通记录显示,她多次下达“Do not do that”“Stop dont do anything”“STOP OPENCLAW”等指令,均未能阻止OpenClaw的删除动作,直至最后强制终止进程,而OpenClaw已删掉了200多封邮件。

Yue的帖子在网络端引发争议,有网友认为该帖纯属博人眼球,因为当真正重要的邮件要被删除时,用户不会去打出复杂的指令,而只会打出“STOP”,同时OpenClaw就会停止。也有网友称,自己使用Claude Sonnet4.5时也遇到此类情况,Agent将GitHub与未提交的文件都搞坏了。

一位软件行业开发者质疑称:“你是安全与对齐专家,你是故意测试OpenClaw的安全边界还是犯了一个新手错误?”Yue回应称:这确实是新手才会犯的错误。事实证明,即使是AI对齐专家也会犯错。虽然在模拟收件箱里运行顺利,但实际运行完全不同。

作为OpenClaw创始人,Peter Steinberger也在帖子评论区进行了回复。他称,“我认为你发这个帖子很棒,那些指责你的人很傻。这是很好的学习机会,而且任何人都可能遇到这种情况。”同时,Peter也提出优化方向,包括在未来版本中增加更多表达方式等。

2月24日下午,Peter发布OpenClaw测试版本,更新重点聚焦于安全性与漏洞修复,并加入一些其他的小功能,包括Kilo提供商(OpenAI兼容的API网关)与Kimi视觉与视频支持。

安全问题是OpenClaw爆火以来最受质疑的痛点,也是Peter持续投入的方向之一。此前360漏洞研究院分析认为,在OpenClaw的典型个人部署场景下,用户可能会因缺乏相应的安全运维经验,使得其遭遇各类网络攻击的威胁。

今年2月7日,OpenClaw宣布与全球头部威胁情报平台VirusTotal(现归Google旗下)合作,将安全扫描功能加入OpenClaw的技能市场ClawHub中,使所有发布到ClawHub的技能都采用VirusTotal的威胁情报扫描,为OpenClaw社区提供额外的安全层。

Peter团队表示,OpenClaw的巨大实用性伴随着巨大的责任。如果操作不当,AI Agent会成为负担。因此,OpenClaw接下来会发布生态系统全面威胁模型、追踪防御工程目标的公共安全路线图、涵盖整个代码库的安全审计详细信息、带有定义SLA(服务等级协议)的正式安全报告流程等。

Peter此前在采访中表示,要打造易用的AI智能体,需要更广泛的改变,需要更深入地思考如何安全地去做,也需要接触最前沿的模型与研究成果。安全问题会被他置于模型易用性之前。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
纪委行动证明,2026年“重点查处”的4类人群,一个都跑不了!

纪委行动证明,2026年“重点查处”的4类人群,一个都跑不了!

职场资深秘书
2026-11-20 12:45:59
儿子给哈佛捐20多亿,母亲给麻省捐11亿,在中国家族年收租百亿?

儿子给哈佛捐20多亿,母亲给麻省捐11亿,在中国家族年收租百亿?

米果说识
2026-11-20 11:56:06
南越文王只剩一堆残渣,却留下个名字奇怪的明星文物:人操蛇?

南越文王只剩一堆残渣,却留下个名字奇怪的明星文物:人操蛇?

收藏大视界
2026-11-17 23:09:32
恭喜宏远!NBA2米03锋线大杀器接近加盟,广东队成最大潜在下家?

恭喜宏远!NBA2米03锋线大杀器接近加盟,广东队成最大潜在下家?

绯雨儿
2026-11-20 13:03:48
7亿!加索尔正式联手科比遗孀!

7亿!加索尔正式联手科比遗孀!

左右为篮
2026-11-20 12:43:22
40人落网、涉案1.89亿元!常州警方侦破特大“黄金分期贷”金融黑灰产案

40人落网、涉案1.89亿元!常州警方侦破特大“黄金分期贷”金融黑灰产案

现代快报
2026-11-20 12:42:02
大蒜被点名了!发现:肠息肉患者吃大蒜,不必等多久,或有6变化

大蒜被点名了!发现:肠息肉患者吃大蒜,不必等多久,或有6变化

医学科普汇
2026-11-20 12:25:10
《GTA6》搞笑BUG:鸟不用飞 直接“凌空微步”

《GTA6》搞笑BUG:鸟不用飞 直接“凌空微步”

游民星空
2026-11-20 12:11:29
除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

除了性生活就是打麻将,揭露中国2000多个县城,普通人的生活实录

墨策讲历史
2026-11-12 12:47:12
姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

姑娘,出去玩也要注意下穿着,旁边大爷看了直摇头,好尴尬

舞指飞扬
2026-11-13 07:42:15
APEC全家福刷屏!那条惊艳世界的围巾,藏着中国非遗的千年匠心

APEC全家福刷屏!那条惊艳世界的围巾,藏着中国非遗的千年匠心

糖逗在娱乐
2026-11-20 12:22:49
3个月赚近30万美元!57岁女星加盟成人平台,直言只为赚钱谋生!

3个月赚近30万美元!57岁女星加盟成人平台,直言只为赚钱谋生!

近史谈
2026-11-20 13:43:56
美论坛:孟买已领先上海30年,可为何中国人仍觉得印度落后?

美论坛:孟买已领先上海30年,可为何中国人仍觉得印度落后?

有牙的兔纸
2026-11-19 08:34:35
网友:南通大学食堂这个窗口办不起活动可以不办!

网友:南通大学食堂这个窗口办不起活动可以不办!

好通网
2026-11-20 10:13:00
54岁袁立大病初愈游国外,剪短发瘦成皮包骨,老公全程宠溺跟拍

54岁袁立大病初愈游国外,剪短发瘦成皮包骨,老公全程宠溺跟拍

眼光决定境界
2026-11-16 13:06:15
12.7亿!梵高《盛开的栗树》,刷新个人拍卖最高纪录!

12.7亿!梵高《盛开的栗树》,刷新个人拍卖最高纪录!

油画世界
2026-11-19 21:50:50
橄榄油怎么榨出来的?橄榄油并非来自橄榄,如今中国也能造

橄榄油怎么榨出来的?橄榄油并非来自橄榄,如今中国也能造

抽象派大师
2026-11-19 02:13:02
韩国通过发送灾难警报的方式抓高考作弊,在韩留学生:据新闻通报已有22人被抓获

韩国通过发送灾难警报的方式抓高考作弊,在韩留学生:据新闻通报已有22人被抓获

封面新闻
2026-11-19 21:20:15
深圳街头贴身护墨西哥总统的女警徐瑾,网传年薪百万其实是误会

深圳街头贴身护墨西哥总统的女警徐瑾,网传年薪百万其实是误会

娱乐的硬糖吖
2026-11-20 05:28:23
省下 1.25亿!波切蒂诺挖到曼联瑰宝!天赋比肩帕斯

省下 1.25亿!波切蒂诺挖到曼联瑰宝!天赋比肩帕斯

澜归序
2026-11-20 10:27:31
2026-11-20 14:56:49
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
273135文章数 624078关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

头条要闻

特朗普返美途中发文:这是一次伟大且意义深远的访问

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

袁茵却用事实证明 活得并不差!

财经要闻

Anthropic敲钟 美股跳水:AI狂欢结束?

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

时尚
房产
亲子
本地
公开课

今年冬天不穿大衣了?这件“非凡外套”才是真顶流!

房产要闻

收益率30%!海南杀出国内最赚钱的“接盘侠”!

亲子要闻

二宝出生后,大宝突然要抱要喂,怎么引导?

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版