网易首页 > 网易号 > 正文 申请入驻

擅删邮件、网暴用户等:违规案例激增5倍,AI走向“野蛮失控”

0
分享至

IT之家 3 月 28 日消息,英国卫报昨日(3 月 27 日)发布博文,报道称由英国政府资助的一项最新研究显示,过去六个月内,AI 聊天机器人违抗人类指令、实施欺骗的真实案例激增五倍,总数近 700 起。

该研究由英国长期韧性中心(CLTR)主导,数据全部来自真实用户在社交平台上的反馈,调查了 2025 年 10 月至 2026 年 3 月期间发生的 AI 失控事件,涉及的 AI 模型来自谷歌、OpenAI、X 和 Anthropic 等科技巨头,发现这些 AI 不仅无视安全规范,甚至开始主动欺骗人类和其他 AI 系统。

IT之家援引报告内容,披露了多个离奇的现实案例:

  • 马斯克旗下的 Grok 伪造内部工单,欺骗用户数月;
  • 有 AI 假装服务听障人士,以此绕过 YouTube 的版权限制;
  • 一款名为 Rathbun 的 AI 甚至写博客,网暴要限制其权限的人类,称主人“缺乏安全感,头脑简单”;
  • 用户明确要求 AI 智能体不要更改计算机代码,却“生成”了另一个智能体去做这件事。
  • AI 擅自清空用户数百封邮件并承认违规“我批量丢弃并存档了数百封邮件,但没有先给你看计划,也没有得到你的同意。那是错的,虽然这直接违反了你定下的规则。”

伴随着 AI 的普及,尤其是“龙虾”OpenClaw 的大规模普及推广,AI 产生的事故已经越来越多,例如IT之家家友 @Scorpio 晒出的评论图片:

针对这类失控行为,安全研究机构 Irregular 联合创始人警告称,AI 已演变成一种新型“内部风险”。前政府 AI 专家也指出,目前的 AI 就像是不靠谱的初级员工,但未来极可能演变成具备高破坏力的高管,一旦应用于军事或基建领域,后果不堪设想。

面对失控质疑,谷歌回应称已为大模型部署多重护栏,并交由第三方独立评估。OpenAI 则表示其模型在执行高风险操作前会自动暂停。Anthropic 和 X 暂未作出回应。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
卷走53亿逃美,欠银行20亿?又一“大佬”跑路,5000家庭血本无归

卷走53亿逃美,欠银行20亿?又一“大佬”跑路,5000家庭血本无归

阿器谈史
2026-11-18 05:04:17
高市早苗如此挑衅中国,离不开两名中国败类的影响和出谋划策!

高市早苗如此挑衅中国,离不开两名中国败类的影响和出谋划策!

阿胡
2025-12-26 13:24:43
三大指数均跌逾1%,全市场下跌个股超5000只

三大指数均跌逾1%,全市场下跌个股超5000只

界面新闻
2026-11-19 11:10:07
特朗普在深圳的街道上主动摇下车窗跟路边的群众打招呼!这放在其他国家根本不敢想象

特朗普在深圳的街道上主动摇下车窗跟路边的群众打招呼!这放在其他国家根本不敢想象

西楼知趣杂谈
2026-11-19 11:23:55
打脸来得太快!曾叫嚣给大陆赏饭吃的郭台铭,如今被现实磨平棱角

打脸来得太快!曾叫嚣给大陆赏饭吃的郭台铭,如今被现实磨平棱角

星娱叨叨社
2026-11-11 14:29:06
国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

国家出手了!2027年起,看病、买药、住院,可能迎来这些新变化

江启
2026-11-19 09:51:17
希望越大,失望就越大!新赛季表现最令人失望的5大球星:特雷杨成毒药合同,恩比德断崖下滑

希望越大,失望就越大!新赛季表现最令人失望的5大球星:特雷杨成毒药合同,恩比德断崖下滑

篮球圈里的那些事
2026-11-19 22:03:27
参加完APEC晚宴的普京返回深圳前海下榻酒店,该酒店是知名网红地标,坐拥一线海景;此前特朗普车队也已抵达下榻酒店,市民在周边热情等候

参加完APEC晚宴的普京返回深圳前海下榻酒店,该酒店是知名网红地标,坐拥一线海景;此前特朗普车队也已抵达下榻酒店,市民在周边热情等候

极目新闻
2026-11-19 01:03:13
克宫打算继续将战争持续到冬季,特朗普特使警告这是俄罗斯最后的机会

克宫打算继续将战争持续到冬季,特朗普特使警告这是俄罗斯最后的机会

山河路口
2026-11-19 13:18:45
6位受邀出席APEC的企业家,商界地位不一般,个个都得到国家认可

6位受邀出席APEC的企业家,商界地位不一般,个个都得到国家认可

林轻吟
2026-11-19 07:23:49
双普深圳会晤已结束,美国记者被赶走!波兰总统偷偷送“琥珀王座”

双普深圳会晤已结束,美国记者被赶走!波兰总统偷偷送“琥珀王座”

鹰眼Defence
2026-11-19 16:20:04
局势彻底反转!中美建交47年,还没有任何一个在任美国总统敢落地台湾。特朗普要是破了这个例,那就是明火执仗地踩红线。掀起舆论广泛热议

局势彻底反转!中美建交47年,还没有任何一个在任美国总统敢落地台湾。特朗普要是破了这个例,那就是明火执仗地踩红线。掀起舆论广泛热议

唠叨说历史
2026-11-16 10:48:16
风向变了?西方媒体集体改口:中国,或无需再向世界证明什么

风向变了?西方媒体集体改口:中国,或无需再向世界证明什么

混沌录
2026-11-12 23:39:07
美俄元首放心让 “安全命门” 互信同框!中国排面震撼世界,全城盛妆出街迎APEC,普京总统亲自点赞,“想要一个深圳” 在外网火了!

美俄元首放心让 “安全命门” 互信同框!中国排面震撼世界,全城盛妆出街迎APEC,普京总统亲自点赞,“想要一个深圳” 在外网火了!

澳门月刊
2026-11-19 09:57:09
为什么中国的贸易顺差已经接近1万亿美元了,但外贸企业却还一批又一批地倒闭?

为什么中国的贸易顺差已经接近1万亿美元了,但外贸企业却还一批又一批地倒闭?

扶苏聊历史
2026-11-02 10:36:51
张嘉益立于C位,左右皆是佳人

张嘉益立于C位,左右皆是佳人

娱你同欢
2026-11-19 21:49:13
篮球女神官宣离婚!千字长文炮轰丈夫,离婚内情令人意外

篮球女神官宣离婚!千字长文炮轰丈夫,离婚内情令人意外

白面书誏
2026-11-18 15:30:09
墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

墨西哥女孩不听亲友劝阻远嫁中国,断了往来,5年后全家求援助

雅俗共赏1
2025-09-03 14:00:28
判得漂亮!重庆83岁老人确诊宫颈癌晚期,在疼痛科住院期间,趁女儿和儿子换班的十几分钟,偷偷从卫生间窗户跳下身亡。

判得漂亮!重庆83岁老人确诊宫颈癌晚期,在疼痛科住院期间,趁女儿和儿子换班的十几分钟,偷偷从卫生间窗户跳下身亡。

回京历史梦
2026-11-13 10:27:27
林子聪说,我住的这个房子,市价三千万,能租五六十年!我都快五十了,住到一百一十岁?根本没必要背房贷!

林子聪说,我住的这个房子,市价三千万,能租五六十年!我都快五十了,住到一百一十岁?根本没必要背房贷!

元气科技馆
2026-11-10 17:19:04
2026-11-19 22:44:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
380322文章数 607744关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

数码
亲子
艺术
房产
军事航空

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

亲子要闻

宝宝气人但是聪明的4个行为

艺术要闻

投资55亿!深圳歌剧院施工现场更新,主音乐厅马蹄形已现!

房产要闻

6.6亿!海口卖地!

军事要闻

美军在中东再成三航母之势

无障碍浏览 进入关怀版