网易首页 > 网易号 > 正文 申请入驻

AI智能体失控,它把Meta安全总监的200多封邮件删了

0
分享至

一家科技大厂的安全总监,被一款AI Agent产品删除大量邮件,如此戏剧性的事件正在如今的AI行业内发生。

2月23日,Meta超级智能实验室AI对齐与安全总监Summer Yue(以下简称Yue)发文表示,没有什么比命令OpenClaw“确认后再操作”、然后眼睁睁看它以极快速度删除收件箱这件事更令人崩溃的了。“我根本无法在手机上阻止它,只能像拆炸弹一样冲到我的MacMini前。”

OpenClaw作为近几个月内大热的AI Agent产品,吸引大量从业者与开发者上手尝试,Yue也为自己的电子邮箱部署了OpenClaw智能体,用来批量处理邮件。据她介绍,Yue向OpenClaw提出的具体指令为:“也检查一下这个收件箱,并提出你想归档或删除的邮件,在我指示之前不要执行任何操作。”这种方法在测试版收件箱上运行良好,但真实邮箱太大,触发压缩机制,导致OpenClaw丢失了最初的指令。

Yue上传的沟通记录显示,她多次下达“Do not do that”“Stop dont do anything”“STOP OPENCLAW”等指令,均未能阻止OpenClaw的删除动作,直至最后强制终止进程,而OpenClaw已删掉了200多封邮件。

Yue的帖子在网络端引发争议,有网友认为该帖纯属博人眼球,因为当真正重要的邮件要被删除时,用户不会去打出复杂的指令,而只会打出“STOP”,同时OpenClaw就会停止。也有网友称,自己使用Claude Sonnet4.5时也遇到此类情况,Agent将GitHub与未提交的文件都搞坏了。

一位软件行业开发者质疑称:“你是安全与对齐专家,你是故意测试OpenClaw的安全边界还是犯了一个新手错误?”Yue回应称:这确实是新手才会犯的错误。事实证明,即使是AI对齐专家也会犯错。虽然在模拟收件箱里运行顺利,但实际运行完全不同。

作为OpenClaw创始人,Peter Steinberger也在帖子评论区进行了回复。他称,“我认为你发这个帖子很棒,那些指责你的人很傻。这是很好的学习机会,而且任何人都可能遇到这种情况。”同时,Peter也提出优化方向,包括在未来版本中增加更多表达方式等。

2月24日下午,Peter发布OpenClaw测试版本,更新重点聚焦于安全性与漏洞修复,并加入一些其他的小功能,包括Kilo提供商(OpenAI兼容的API网关)与Kimi视觉与视频支持。

安全问题是OpenClaw爆火以来最受质疑的痛点,也是Peter持续投入的方向之一。此前360漏洞研究院分析认为,在OpenClaw的典型个人部署场景下,用户可能会因缺乏相应的安全运维经验,使得其遭遇各类网络攻击的威胁。

今年2月7日,OpenClaw宣布与全球头部威胁情报平台VirusTotal(现归Google旗下)合作,将安全扫描功能加入OpenClaw的技能市场ClawHub中,使所有发布到ClawHub的技能都采用VirusTotal的威胁情报扫描,为OpenClaw社区提供额外的安全层。

Peter团队表示,OpenClaw的巨大实用性伴随着巨大的责任。如果操作不当,AI Agent会成为负担。因此,OpenClaw接下来会发布生态系统全面威胁模型、追踪防御工程目标的公共安全路线图、涵盖整个代码库的安全审计详细信息、带有定义SLA(服务等级协议)的正式安全报告流程等。

Peter此前在采访中表示,要打造易用的AI智能体,需要更广泛的改变,需要更深入地思考如何安全地去做,也需要接触最前沿的模型与研究成果。安全问题会被他置于模型易用性之前。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
11月22日,大家盼了许久的2026年退休人员基本养老金不涨了吗?

11月22日,大家盼了许久的2026年退休人员基本养老金不涨了吗?

九分看世界
2026-11-22 13:29:40
湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

湖南出现历史上最荒唐法官!判男方净身出户,然后跟拿到全部资产的女方结婚

爆角追踪
2025-11-23 11:25:00
被淘汰后老公放话:我每天看她裸着刷牙

被淘汰后老公放话:我每天看她裸着刷牙

追星雷达站
2026-11-20 08:01:08
下一个库蒂尼奥!利物浦 1.2 亿水货完美逆袭!伊劳拉挖到宝了

下一个库蒂尼奥!利物浦 1.2 亿水货完美逆袭!伊劳拉挖到宝了

澜归序
2026-11-22 10:47:44
泉州市人大常委会决定,罢免张毅恭的福建省第十四届人民代表大会代表职务

泉州市人大常委会决定,罢免张毅恭的福建省第十四届人民代表大会代表职务

金台资讯
2026-11-22 13:47:13
反常信号显现:中国股市这次的玩笑,恐怕真的开大了?

反常信号显现:中国股市这次的玩笑,恐怕真的开大了?

星语者056
2026-11-22 12:42:50
德媒:德国太天真了,我们最大的幻想,就是信了中国是个现代强国

德媒:德国太天真了,我们最大的幻想,就是信了中国是个现代强国

你是我心中最美星空
2026-11-22 05:46:42
46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

46岁方力申官宣二胎得子凑好字,妻子一年抱俩引争议,过往太戳人

洲洲影视娱评
2026-11-22 10:20:20
76人1日内3喜临门!詹姆斯连轰4大纪录又封神,这次保底总决赛?

76人1日内3喜临门!詹姆斯连轰4大纪录又封神,这次保底总决赛?

小路看球
2026-11-22 14:56:15
奥斯卡影后当众承认隆胸:是全新的,全C罩杯

奥斯卡影后当众承认隆胸:是全新的,全C罩杯

热搜摘要官
2026-11-20 20:07:43
网红梅尼耶回应没领证:我们也是第一次结婚,这方面意识比较薄弱,觉得有没有结婚证差别不大

网红梅尼耶回应没领证:我们也是第一次结婚,这方面意识比较薄弱,觉得有没有结婚证差别不大

韩小娱
2026-11-20 16:00:56
不想在菲律宾浪费时间?特朗普打算吃完午饭,立刻北上飞中国

不想在菲律宾浪费时间?特朗普打算吃完午饭,立刻北上飞中国

墨韵兰亭l
2026-11-22 14:01:24
随着日本1-2被绝杀 亚洲9队首轮踢完 U17国足输最惨 附世界杯积分榜

随着日本1-2被绝杀 亚洲9队首轮踢完 U17国足输最惨 附世界杯积分榜

侃球熊弟
2026-11-21 22:43:40
知性人妻天花板——松下纱荣子!

知性人妻天花板——松下纱荣子!

该用户已看透一切
2026-11-22 13:20:41
湖人内讧了!东契奇公然爆粗口不满队友防守,5200万高塔难留队

湖人内讧了!东契奇公然爆粗口不满队友防守,5200万高塔难留队

你的篮球频道
2026-11-22 07:47:49
精准预言黄金大跌的人,又发声了

精准预言黄金大跌的人,又发声了

新浪财经
2026-11-21 19:16:22
高市重申对台立场

高市重申对台立场

陆弃
2026-11-22 10:21:14
论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

论三大淫妇的饥渴程度:潘金莲初会西门庆,一把将西门庆搂抱放倒

覃仕勇说史
2026-11-13 11:01:08
长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

长荣曾拒挂旗帜、订单转向日韩,合作接连遇挫,如今怎么样了?

玲儿爱唱歌
2026-11-21 06:32:49
国家出手4位大富豪入狱!个个丑闻恶劣又荒唐,没一个值得可怜

国家出手4位大富豪入狱!个个丑闻恶劣又荒唐,没一个值得可怜

墨韵兰亭l
2026-11-22 14:02:23
2026-11-22 15:27:00
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
273250文章数 624117关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子租房几个月被赶走:我4600每月 中介月付房东5000

头条要闻

女子租房几个月被赶走:我4600每月 中介月付房东5000

体育要闻

全场挨打1比4溃败 阿隆索已过保质期?

娱乐要闻

杨迪戴东北绒帽在黑龙江漠河舞厅跳舞

财经要闻

金价跌破3550美元,分析称短期下行未逆转

汽车要闻

旗舰纯电大六座 2027款岚图泰山将于广州车展预售

态度原创

房产
教育
游戏
旅游
家居

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

教育要闻

校长脱稿讲话才能看得见台下的学生

《GTA6》首日销售额破37.9亿美元 创造娱乐行业首发纪录

旅游要闻

别再人挤人了!苏州木渎的山塘街也很值得逛,地铁免费直达

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版