网易首页 > 网易号 > 正文 申请入驻

AI智能体失控,它把Meta安全总监的200多封邮件删了

0
分享至

一家科技大厂的安全总监,被一款AI Agent产品删除大量邮件,如此戏剧性的事件正在如今的AI行业内发生。

2月23日,Meta超级智能实验室AI对齐与安全总监Summer Yue(以下简称Yue)发文表示,没有什么比命令OpenClaw“确认后再操作”、然后眼睁睁看它以极快速度删除收件箱这件事更令人崩溃的了。“我根本无法在手机上阻止它,只能像拆炸弹一样冲到我的MacMini前。”

OpenClaw作为近几个月内大热的AI Agent产品,吸引大量从业者与开发者上手尝试,Yue也为自己的电子邮箱部署了OpenClaw智能体,用来批量处理邮件。据她介绍,Yue向OpenClaw提出的具体指令为:“也检查一下这个收件箱,并提出你想归档或删除的邮件,在我指示之前不要执行任何操作。”这种方法在测试版收件箱上运行良好,但真实邮箱太大,触发压缩机制,导致OpenClaw丢失了最初的指令。

Yue上传的沟通记录显示,她多次下达“Do not do that”“Stop dont do anything”“STOP OPENCLAW”等指令,均未能阻止OpenClaw的删除动作,直至最后强制终止进程,而OpenClaw已删掉了200多封邮件。

Yue的帖子在网络端引发争议,有网友认为该帖纯属博人眼球,因为当真正重要的邮件要被删除时,用户不会去打出复杂的指令,而只会打出“STOP”,同时OpenClaw就会停止。也有网友称,自己使用Claude Sonnet4.5时也遇到此类情况,Agent将GitHub与未提交的文件都搞坏了。

一位软件行业开发者质疑称:“你是安全与对齐专家,你是故意测试OpenClaw的安全边界还是犯了一个新手错误?”Yue回应称:这确实是新手才会犯的错误。事实证明,即使是AI对齐专家也会犯错。虽然在模拟收件箱里运行顺利,但实际运行完全不同。

作为OpenClaw创始人,Peter Steinberger也在帖子评论区进行了回复。他称,“我认为你发这个帖子很棒,那些指责你的人很傻。这是很好的学习机会,而且任何人都可能遇到这种情况。”同时,Peter也提出优化方向,包括在未来版本中增加更多表达方式等。

2月24日下午,Peter发布OpenClaw测试版本,更新重点聚焦于安全性与漏洞修复,并加入一些其他的小功能,包括Kilo提供商(OpenAI兼容的API网关)与Kimi视觉与视频支持。

安全问题是OpenClaw爆火以来最受质疑的痛点,也是Peter持续投入的方向之一。此前360漏洞研究院分析认为,在OpenClaw的典型个人部署场景下,用户可能会因缺乏相应的安全运维经验,使得其遭遇各类网络攻击的威胁。

今年2月7日,OpenClaw宣布与全球头部威胁情报平台VirusTotal(现归Google旗下)合作,将安全扫描功能加入OpenClaw的技能市场ClawHub中,使所有发布到ClawHub的技能都采用VirusTotal的威胁情报扫描,为OpenClaw社区提供额外的安全层。

Peter团队表示,OpenClaw的巨大实用性伴随着巨大的责任。如果操作不当,AI Agent会成为负担。因此,OpenClaw接下来会发布生态系统全面威胁模型、追踪防御工程目标的公共安全路线图、涵盖整个代码库的安全审计详细信息、带有定义SLA(服务等级协议)的正式安全报告流程等。

Peter此前在采访中表示,要打造易用的AI智能体,需要更广泛的改变,需要更深入地思考如何安全地去做,也需要接触最前沿的模型与研究成果。安全问题会被他置于模型易用性之前。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
东北悬疑剧《无声的回响》爆了,没想到真敢拍,事实证明:它的尺度并不低

东北悬疑剧《无声的回响》爆了,没想到真敢拍,事实证明:它的尺度并不低

娱乐圈笔娱君
2026-11-21 14:19:50
中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

中文主场绝不能丢!人民日报定调:在中国,绝不允许英文取代中文

寻墨阁
2026-11-06 22:54:32
恭喜国乒,27岁美女国手回归,助孙颖莎备战张本美和,已抵达成都

恭喜国乒,27岁美女国手回归,助孙颖莎备战张本美和,已抵达成都

懂球社
2026-11-21 11:20:36
0℃,一大早冻上了!浙江下一轮回暖时间定了,气温还会暴力拉升

0℃,一大早冻上了!浙江下一轮回暖时间定了,气温还会暴力拉升

19楼
2026-11-21 15:32:00
87-93惨败!浙江广厦输球仅一夜! 北京首钢传来主帅李楠新消息,广厦主帅王博说的很实在,早有打算

87-93惨败!浙江广厦输球仅一夜! 北京首钢传来主帅李楠新消息,广厦主帅王博说的很实在,早有打算

篮球热嗖
2026-11-21 10:22:42
庞众望完成清华大学博士论文答辩,院士任答辩委主席,本人回应,去向大致明确

庞众望完成清华大学博士论文答辩,院士任答辩委主席,本人回应,去向大致明确

东东趣谈
2026-11-21 16:41:24
每天只睡四五小时!舟山女子身兼4份工作月入30000走红,网友调侃:佩服,平均每份工资8000元

每天只睡四五小时!舟山女子身兼4份工作月入30000走红,网友调侃:佩服,平均每份工资8000元

火山詩话
2026-11-21 09:32:16
马斯克携6岁幼子空降深圳! 现场灵魂发问: "你爱中国吗? " 儿子的回答太圈粉…

马斯克携6岁幼子空降深圳! 现场灵魂发问: "你爱中国吗? " 儿子的回答太圈粉…

人间颂
2026-11-21 10:07:21
深度长文:吃饭呛着别怪自己,怪4亿年前那条缺氧的鱼!

深度长文:吃饭呛着别怪自己,怪4亿年前那条缺氧的鱼!

宇宙时空
2026-11-20 21:15:08
无时无刻不在想你,时时刻刻都在想你

无时无刻不在想你,时时刻刻都在想你

疾跑的小蜗牛
2026-11-21 18:00:38
英伟达,大消息!

英伟达,大消息!

数据宝
2026-11-21 12:32:04
王祉怡2-0战胜宫崎友花 成功晋级女单决赛

王祉怡2-0战胜宫崎友花 成功晋级女单决赛

北青网-北京青年报
2026-11-21 14:31:02
狂揽23亿违规收入、与死对头黄仁勋百亿联姻:扒开Anthropic万亿IPO的底牌

狂揽23亿违规收入、与死对头黄仁勋百亿联姻:扒开Anthropic万亿IPO的底牌

星海情报局
2026-11-21 00:22:30
金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

华夏时报
2026-11-20 22:15:03
英伟达技术大牛实名发声:身患重病时,黄仁勋出手帮他抢下生机

英伟达技术大牛实名发声:身患重病时,黄仁勋出手帮他抢下生机

普陀动物世界
2026-11-18 08:58:23
中央考核巡查组,开始进驻地方

中央考核巡查组,开始进驻地方

极目新闻
2026-11-21 16:18:14
中国为啥要下血本猛搞新能源车?说句实在话,环保就是个幌子,石油也不过是个由头。

中国为啥要下血本猛搞新能源车?说句实在话,环保就是个幌子,石油也不过是个由头。

回京历史梦
2026-10-13 09:22:14
ESPN:阿卡夫球风和马布里相似 难以寻找适合与其搭档的球员

ESPN:阿卡夫球风和马布里相似 难以寻找适合与其搭档的球员

北青网-北京青年报
2026-11-21 09:07:02
《两京十五日》刚开播,便让朱亚文再度翻红

《两京十五日》刚开播,便让朱亚文再度翻红

剧芒芒
2026-11-21 17:22:21
陈皮配它,倒头就睡!夜里雷打不动,白天精神旺,试过的都说好

陈皮配它,倒头就睡!夜里雷打不动,白天精神旺,试过的都说好

牛锅巴小钒
2026-11-15 19:14:34
2026-11-21 23:28:49
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
273232文章数 624110关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

于东来:胖东来保洁工资6千元 保安每天只需工作8小时

头条要闻

于东来:胖东来保洁工资6千元 保安每天只需工作8小时

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

李连杰回应抛妻弃女传闻,透露四个女儿关系

财经要闻

走过三年牛市,黄金何去何从?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
本地
房产
公开课
军事航空

曝R星下一作不是大镖客?《黑色洛城2》传闻再起

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版