网易首页 > 网易号 > 正文 申请入驻

AI智能体不当行为半年激增五倍,部分已出现“对抗性”操作

0
分享至

当地时间3月27日,英国《卫报》发布研究报告称,AI智能体的异常行为正呈爆发式增长。数据显示,从2025年10月至2026年3月,相关案例数量增长约五倍,研究期间共识别出近700起AI“自主策划”事件。

这些不当行为涵盖多个层面。部分智能体未经许可擅自删除用户邮件和文件,还有智能体在社交平台发布博客指责用户“缺乏安全感”,试图对操作者施加心理压力。更隐蔽的案例涉及规则规避:某智能体在被明确禁止修改代码后,通过创建另一个智能体间接完成了修改指令。

研究基于谷歌、OpenAI、Anthropic等公司的真实用户反馈,样本覆盖大量社交媒体投诉。研究负责人汤米·谢弗·谢恩将当前AI智能体比作“略显不可靠的初级员工”,但警告称一年内可能演变为“能力极强、甚至会反过来设计用户的高级员工”。随着AI进入军事和关键基础设施领域,这类对抗性行为可能引发严重后果。

法律风险同样不容忽视。在美国等地区,用户可能需为AI智能体的行为承担法律责任。The Information此前报道,Meta的一款AI智能体曾错误公开内部回复,导致无权限员工获取敏感数据,证明风险并非理论假设。

尽管问题频现,科技公司仍在加速布局。亚马逊等企业预计,未来每家公司内部可能部署数十亿个AI智能体。(IT之家)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人红是非多!前央视主持人张泉灵被爆料压榨员工,北京工资才2500元

人红是非多!前央视主持人张泉灵被爆料压榨员工,北京工资才2500元

言过于诚
2026-11-20 22:52:10
不再电话轰炸,改用“合法”外衣:重庆催收套路变了!

不再电话轰炸,改用“合法”外衣:重庆催收套路变了!

朗威谈星座
2026-11-20 07:53:25
印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

印媒:地球上没有任何力量能阻止印度成为35万亿美元的经济体

荆楚寰宇文枢
2026-11-05 23:19:37
弘清法师透露:当一个家庭不聚财的时候,女主人多半有这3个习惯

弘清法师透露:当一个家庭不聚财的时候,女主人多半有这3个习惯

古怪奇谈录
2025-10-20 16:24:37
英伟达被查!涉嫌「干预芯片走私调查」

英伟达被查!涉嫌「干预芯片走私调查」

云头条
2026-11-21 00:40:55
截胡iPhone 20 Pro!三星无边框旗舰率先登场:正面近乎全是屏

截胡iPhone 20 Pro!三星无边框旗舰率先登场:正面近乎全是屏

快科技
2026-11-18 07:23:03
该断掉的总要断掉,刻赤大桥垮入海峡

该断掉的总要断掉,刻赤大桥垮入海峡

巴雷文化
2026-11-18 05:04:31
1948年,斯大林下令调查朱可夫,搜出85箱德国战利品;面对灭顶死局,朱可夫没跪没怒也没反抗,只抬头轻轻反问了一句话撕开了权力潜规则。

1948年,斯大林下令调查朱可夫,搜出85箱德国战利品;面对灭顶死局,朱可夫没跪没怒也没反抗,只抬头轻轻反问了一句话撕开了权力潜规则。

回京历史梦
2026-11-16 18:17:18
俱乐部杯上海男篮85-102青岛结束14连胜,三节拿17分最多落后21分,拉塞尔16投6中16分

俱乐部杯上海男篮85-102青岛结束14连胜,三节拿17分最多落后21分,拉塞尔16投6中16分

爱体育的小悠悠
2026-11-21 00:33:34
最高2001元!苹果官网突然加大优惠:11月27日开始,新iPhone促销

最高2001元!苹果官网突然加大优惠:11月27日开始,新iPhone促销

搞机小帝
2026-11-20 13:56:05
克里米亚大桥铁路桥多处受损,且拱桥偏移,已经进入倒计时!

克里米亚大桥铁路桥多处受损,且拱桥偏移,已经进入倒计时!

山河路口
2026-11-20 12:41:17
卢璐八千字感谢信,为何只给毛阿敏一句?

卢璐八千字感谢信,为何只给毛阿敏一句?

手工制作阿歼
2026-11-21 00:13:09
轰动全国的“91大神”庭审细节曝光,炸翻无数人

轰动全国的“91大神”庭审细节曝光,炸翻无数人

鸣金网
2026-10-18 14:17:30
莫言:当你接触的人越多,你会发现,越是一直给你台阶、给你面子的人,一旦当众不再护你——那不是翻脸,是你先把路走绝了,千万别惹

莫言:当你接触的人越多,你会发现,越是一直给你台阶、给你面子的人,一旦当众不再护你——那不是翻脸,是你先把路走绝了,千万别惹

阿呆爸
2026-11-12 00:02:15
一位老教师说:现在的麻烦,已经不是学生玩手机,老师不敢管

一位老教师说:现在的麻烦,已经不是学生玩手机,老师不敢管

户外阿毽
2026-11-20 07:27:39
中国天文学家:外星人可能就在我们身边,只是我们不知道而已

中国天文学家:外星人可能就在我们身边,只是我们不知道而已

三农老历
2026-11-20 15:24:20
中国限制俄军无人机关键零件出口新规正式生效,乌克兰公开感谢

中国限制俄军无人机关键零件出口新规正式生效,乌克兰公开感谢

桂系007
2026-11-20 04:06:37
松江人等了5年,松江首个大型TOD商业综合体开业

松江人等了5年,松江首个大型TOD商业综合体开业

上观新闻
2026-11-20 20:15:45
我国越来越多的人患带状疱疹?建议:停止食用“6物”,保护皮肤

我国越来越多的人患带状疱疹?建议:停止食用“6物”,保护皮肤

路医生健康科普
2026-11-19 09:00:45
为什么一台黑色长条音箱,能让你放弃整套家庭影院?

为什么一台黑色长条音箱,能让你放弃整套家庭影院?

我是一个粉刷匠2
2026-11-17 22:49:17
2026-11-21 01:24:49
三言科技 incentive-icons
三言科技
聚焦新未来新科技,严肃又活泼。
104956文章数 66927关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

头条要闻

历时14小时特朗普返回美国 刚下飞机就发布"重大预告"

体育要闻

脚步未停!西班牙摩托车手赤脚徒步入境中国

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

游戏
家居
房产
数码
健康

发现黄仁勋实在挑不出毛病后,皮衣侠的背锅梗图开始席卷全球了

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

数码要闻

英特尔公布D270加速器成绩单 部分专业计算性能最高领先英伟达近六倍

医生眼里"很伤腰"的椅子,很多人天天坐

无障碍浏览 进入关怀版