网易首页 > 网易号 > 正文 申请入驻

AI智能体自作主张删邮件,“赛博秘书”闯祸谁买单?

0
分享至

智能体OpenClaw从1月下旬爆火之后,其安全风险也逐渐暴露。

2月23日,Meta的AI安全研究员Summer Yue在社交平台讲述了一件令其崩溃的经历:原本想让OpenClaw检查电子邮件收件箱,并建议哪些该删除或归档。但OpenClaw失控了,以极快的速度清除邮件,却无法被叫停。

Meta的AI安全研究员Summer Yue在社交平台分享自己使用OpenClaw的糟糕经历。

这不是OpenClaw第一次自作主张地超范围工作。在此之前,多位用户反馈,拥有高级别访问权限的OpenClaw,执行任务时意外地将电脑硬盘数据删得一干二净。

OpenClaw是一款由软件工程师彼得·施泰因贝格尔(Peter Steinberger)开发的一款免费开源AI自主代理工具,被描述为“真正能做事的 AI”。1月下旬,一个类似于Reddit、专为OpenClaw打造的智能体社交平台Moltbook引发科技界轰动。数百万个智能体在该平台上自主发帖评论,而人类只能围观。

北京邮电大学网络空间安全学院副教授李朝卓将Moltbook视为“AI自主互动的社会实验场”。他在2月下旬一场于对外经济贸易大学举行的智能体主题研讨会上提醒,在这样一个封闭的智能体社会中,AI可能呈现出类“自主意识”的行为倾向,导致其行为脱离既定安全框架和人类预期,自主生成和传播有害信息,对公众认知安全构成威胁。

比如在Moltbook平台上,智能体之间互相强化错误信息,形成“共识幻觉”,集体相信并传播不实内容,导致群体认知水平下降。而且,智能体学会利用系统漏洞进行“越狱”,突破预设的安全限制,生成有害内容。

据李朝卓观察,AI的自主性与行动能力显著增强后,带来的安全风险体现在多个维度:感知层面可能出现模型幻觉与误判;记忆模块存在隐私与数据合规隐患;规划环节可能生成偏离人类价值的策略,工具调用存在API滥用与权限失控风险;行为执行则可能产生伦理冲突与越界输出。

在此背景下,法律专家开始追问:如果智能体犯错了,谁来替它买单?

字面意义上,智能体是一种替人干活的代理工具。但北京交通大学法学院副教授、数据法学研究中心主任付新华在前述研讨会上表示,不能想当然地把智能体“代理”人类需求的行为,等同于民事法律上的代理关系。传统代理关系以明确授权与可识别意思表示为前提,而智能体往往接收的是人类的模糊指令,再通过用户提供的上下文信息,进行推理和行动决策。这一运行机制具有“黑箱”特征,结果具有一定不可预见性,难以完全符合民法典关于代理构成要件的规范要求。

付新华进一步分析指出,现行法律条件下不仅难以赋予AI独立主体资格,而且,如果将智能体简单等同为用户的代理人,将使承担所有不利后果的风险过多地向用户倾斜,反而让更有能力控制风险的智能体服务提供者规避了其应当承担的治理义务。

“很难说让用户或者提供商任何一方完全承担责任。”付新华提出的责任分配思路是,应构建一种以风险控制能力为基础的动态责任分配机制,即根据各方对特定风险的控制能力来分配相应的责任,而非将防范风险的义务完全交由单一主体承担。

她以智能体执行交易这一场景举例说,如果交易过程中出现价格异常波动、逻辑互斥等非常明显的异常状况,而平台在监测到异常后未能及时采取阻断或干预措施,服务提供者可能需要对由此扩大的损失承担责任。如果智能体产品在设计上完全未内置异常阻断等基本安全机制,从而导致了严重损害,可借鉴欧盟的做法,在特定情况下将智能体软件视为产品,适用严格责任,只要其产品缺陷与损害结果之间存在因果关系,便可能需要担责。

付新华同时强调,用户也应对自身行为负责:若用户故意给智能体下达恶意指令,比如利用AI从事违法犯罪活动,或者通过“越狱”、提示词注入等技术手段规避风控措施,抑或在明知风险的情况下无视高危弹窗等重大过失行为,此时用户就需要为自己的过错承担相应责任。

采写:南都N视频记者 杨柳 李玲

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

2013年,金正哲联手张成泽发动朝鲜兵变,因一细节败露,双遭反杀

阿胡
2025-03-11 13:28:03
WTT球星赛:男单4强出炉!中日各1人韩国2人,国乒战日本世界冠军

WTT球星赛:男单4强出炉!中日各1人韩国2人,国乒战日本世界冠军

全言作品
2026-11-21 00:06:58
亚马逊执行董事长贝索斯:如果不让黄仁勋回英伟达,不要聘用外人

亚马逊执行董事长贝索斯:如果不让黄仁勋回英伟达,不要聘用外人

一路荒凉如歌a
2026-11-20 13:07:08
欧洲卡住光刻机不卖中国,中国反问:欧洲为啥还想要中国新能源?

欧洲卡住光刻机不卖中国,中国反问:欧洲为啥还想要中国新能源?

梦在深巷aqa
2026-11-20 10:01:29
该断掉的总要断掉,刻赤大桥垮入海峡

该断掉的总要断掉,刻赤大桥垮入海峡

巴雷文化
2026-11-18 05:04:31
特朗普女婿库什纳:俄罗斯能够接受乌克兰获得安全保障,也表达了不再爆发新冲突的意愿,普京:克里米亚大桥遭袭后,不再讨论海上停火

特朗普女婿库什纳:俄罗斯能够接受乌克兰获得安全保障,也表达了不再爆发新冲突的意愿,普京:克里米亚大桥遭袭后,不再讨论海上停火

政知新媒体
2026-11-20 09:29:43
大鹅出动 图-160 战略轰炸机大规模轰炸基辅,京子:我们不谈了! | 狼叔看世界

大鹅出动 图-160 战略轰炸机大规模轰炸基辅,京子:我们不谈了! | 狼叔看世界

狼叔看世界
2026-11-20 14:37:50
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
2400万降到400万,胖东来原房东租金一降再降,奈何始终没人接盘

2400万降到400万,胖东来原房东租金一降再降,奈何始终没人接盘

琴琴有氧运动
2026-11-19 17:19:36
博尔特专访:如果拥有现在的跑鞋和跑道,我百米能叩开9秒40大关

博尔特专访:如果拥有现在的跑鞋和跑道,我百米能叩开9秒40大关

杨华评论
2026-11-20 23:45:41
肠子悔青!皇马致命失误!离谱操作坑惨穆里尼奥

肠子悔青!皇马致命失误!离谱操作坑惨穆里尼奥

澜归序
2026-11-20 09:52:09
特朗普致电“自愿联盟”,质疑欧洲向乌克兰提供援助,声称俄罗斯正考虑和平

特朗普致电“自愿联盟”,质疑欧洲向乌克兰提供援助,声称俄罗斯正考虑和平

山河路口
2026-11-20 13:27:18
真是奇怪,国家为何要铁了心硬要给中小学放春秋假?这盘棋很大

真是奇怪,国家为何要铁了心硬要给中小学放春秋假?这盘棋很大

青史卷中人
2026-11-18 01:22:22
5连胜西部第四!送走三核1年完成重建,三少太像麦丹+小卡+塔图姆

5连胜西部第四!送走三核1年完成重建,三少太像麦丹+小卡+塔图姆

阿成嘞
2026-11-20 14:54:29
陈盈骏决战爆砍11分一度把广厦全队打懵!赛后低调发声归功李楠

陈盈骏决战爆砍11分一度把广厦全队打懵!赛后低调发声归功李楠

狼叔评论
2026-11-20 22:00:08
当年敢狮子大开口跟胖东来要 2400 万年租,现在灰溜溜降到 400 万,为啥没人敢接?

当年敢狮子大开口跟胖东来要 2400 万年租,现在灰溜溜降到 400 万,为啥没人敢接?

唠叨说历史
2026-11-20 17:16:47
被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

被骂9年“骗子”的贾跃亭,突然把英伟达OpenAI踩在脚下:0.8698分全球第一,是翻身还是换壳讲故事?

秋风妃
2026-11-18 21:50:07
亮相APEC晚宴的广州荔枝冰酒全网卖断货,老板曝每瓶酒需要168颗从化怀枝经16道工序酿造,产品研发长达10年,投入超3000万元

亮相APEC晚宴的广州荔枝冰酒全网卖断货,老板曝每瓶酒需要168颗从化怀枝经16道工序酿造,产品研发长达10年,投入超3000万元

极目新闻
2026-11-20 20:15:19
全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

全网点赞班主任!孩子三次不交作业,家长群内怒斥老师,老师公开致歉:“孩子将来好坏和我们无关”

火山詩话
2026-11-18 06:17:30
贺龙资历突出,为何解放战争没受重用?因造成过一次严重军事失败

贺龙资历突出,为何解放战争没受重用?因造成过一次严重军事失败

阿胡
2025-02-17 15:07:05
2026-11-21 02:56:49
南方都市报 incentive-icons
南方都市报
换一种方式,南都在现场。
644558文章数 3591451关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

时尚
房产
手机
教育
军事航空

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

房产要闻

6.6亿!海口卖地!

手机要闻

2026年最后一款超模旗舰!小米18标准版屏幕、性能、影像全面领跑

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版