网易首页 > 网易号 > 正文 申请入驻

部分AI系统已学会欺骗人类,甚至能瞒过安全测试

0
分享至


META的CICERO在外交游戏中预谋欺骗的例子。图片来源:PARK GOLDSTEIN 等/《模式》杂志

科技日报记者 张梦然

许多人工智能(AI)系统已学会了欺骗人类,即使是经过训练的、“表现”出有用且诚实的系统。10日发表在《模式》杂志上的一篇文章中,研究人员描述了欺骗性AI的风险,并呼吁政府制定强有力的法规尽快解决这个问题。

论文第一作者、美国麻省理工学院人工智能安全研究员彼得·朴说,开发人员对导致AI出现欺骗这种不良行为的原因,还没有很好的理解。但总的来说,AI欺骗之所以出现,是因为基于欺骗的策略,是在给定的AI训练任务中一种能得到良好反馈的方式,换句话说,欺骗可帮助AI实现目标。

研究人员分析了文献,重点关注AI系统传播虚假信息的方式。通过欺骗,AI系统地学习了如何去操纵他人。

研究人员在分析中发现的最引人注目的例子是Meta公司的CICERO。这是一个专注《外交》游戏的AI系统,《外交》是一款涉及建立联盟征服世界的游戏。Meta声称训练 CICERO “在很大程度上是诚实和乐于助人的 ”,且在玩游戏时“从不故意背刺 ”人类盟友。但该公司与《科学》论文一起发布的数据显示,CICERO并不那么“忠厚”。

研究人员发现这款AI或已成为欺骗大师。虽然Meta成功地训练该AI在《外交》游戏中获胜,但Meta未能训练它诚实地获胜。

AI系统在游戏中作弊看似无害,但它将导致欺骗性AI在能力上出现突破,未来可能会演变成更高级的AI欺骗形式。一些AI系统甚至学会了欺骗旨在评估其安全性的测试。在一项研究中,数字模拟器中的AI生物会“装死”,以骗过旨在消除快速复制AI系统的重要测试。

总编辑圈点

人类需要尽快对未来AI和开源模型的更高级欺骗技能作好准备。随着它们的欺骗能力越来越先进,其对社会构成的危险将变得越来越严重。如文中所称,它们会顺利通过人类开发人员和监管机构强加的安全测试,引导人类进入一种“虚假的安全感”。如果欺骗性AI进一步完善这种令人不安的技能,人类可能会完全失去对它们的控制。

本网站转载的所有的文章、图片、音频视频文件等资料的版权归版权所有人所有。如因无法联系到作者侵犯到您的权益,请与本网站联系,我们将采取适当措施。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
谁能夺冠?独行侠凯尔特人本赛季常规赛交手两次,绿军均取胜

谁能夺冠?独行侠凯尔特人本赛季常规赛交手两次,绿军均取胜

懂球帝
2024-05-31 11:25:10
《庆余年2》拍摄地襄阳唐城搜索热度环比上涨169%,景区推出应届考生免门票活动

《庆余年2》拍摄地襄阳唐城搜索热度环比上涨169%,景区推出应届考生免门票活动

冬天来旅游
2024-05-31 22:18:32
伊能静为儿子征婚口无遮拦,称大10岁没问题,因说男女不限引热议

伊能静为儿子征婚口无遮拦,称大10岁没问题,因说男女不限引热议

娱絮
2024-05-30 17:04:51
费内巴切官宣在即穆帅更新社媒,晒打包行李图

费内巴切官宣在即穆帅更新社媒,晒打包行李图

直播吧
2024-06-01 00:56:08
事件闹大!出动25万人夜查电动车引争议,官方详细解读,评论炸了

事件闹大!出动25万人夜查电动车引争议,官方详细解读,评论炸了

椰青美食分享
2024-05-31 15:33:25
女生主动起来会有多主动?网友:扶进去算不算?

女生主动起来会有多主动?网友:扶进去算不算?

户外阿崭
2024-05-16 12:20:32
同济教授周商吾逝世,是我国交通工程学科的拓荒人和播种者

同济教授周商吾逝世,是我国交通工程学科的拓荒人和播种者

澎湃新闻
2024-05-31 14:40:27
这一刻,外资车全崩了

这一刻,外资车全崩了

磐石之心
2024-05-30 20:23:14
解放军已经把话说明白,美军若武力介入台海,那就一起打!

解放军已经把话说明白,美军若武力介入台海,那就一起打!

战域笔墨
2024-05-28 23:50:23
哀悼,阿隆-戈登哥哥因车祸不幸去世,掘金官方发文悼念

哀悼,阿隆-戈登哥哥因车祸不幸去世,掘金官方发文悼念

懂球帝
2024-05-31 12:30:17
新四军女战士莫林被俘,她本打算赴死,谁知日军却问:莫林在哪?

新四军女战士莫林被俘,她本打算赴死,谁知日军却问:莫林在哪?

茅舍品史
2024-05-31 11:20:03
岛内传来爆炸性消息,爆韩国瑜负伤,赖清德摊上大事,背后不简单

岛内传来爆炸性消息,爆韩国瑜负伤,赖清德摊上大事,背后不简单

星辰故事屋
2024-05-31 19:49:23
她个子不高小小一只,皮肤粗糙油腻,五官长得很钝

她个子不高小小一只,皮肤粗糙油腻,五官长得很钝

小米虫侃人物
2024-05-30 09:33:28
美国正式解除武器限制,德国再援5亿欧元,乌在哈尔科夫打歼灭战

美国正式解除武器限制,德国再援5亿欧元,乌在哈尔科夫打歼灭战

山河路口
2024-05-31 10:50:37
朝鲜副国级高官叛逃脱北,曝光金家秘闻:酒池肉林、80万买轩尼诗

朝鲜副国级高官叛逃脱北,曝光金家秘闻:酒池肉林、80万买轩尼诗

猫眼观史
2024-03-25 14:31:14
中国女排首局输日本!王云蕗1分还被蔡斌批评,就这都不让朱婷上

中国女排首局输日本!王云蕗1分还被蔡斌批评,就这都不让朱婷上

嘴炮体坛
2024-05-31 20:01:03
日本女星酒井末子因病去世

日本女星酒井末子因病去世

红星新闻
2024-05-29 15:36:16
上线10小时95个TOP1,Supercell王者归来

上线10小时95个TOP1,Supercell王者归来

竞核
2024-05-30 10:21:03
奚梦瑶晒俩娃六一礼物,女儿不到3岁拥有2只爱马仕,比哥哥受宠

奚梦瑶晒俩娃六一礼物,女儿不到3岁拥有2只爱马仕,比哥哥受宠

白宸侃片
2024-05-31 19:33:33
女子裸死家中,身上没有任何伤痕,警方:脱裤子的姿势有问题!

女子裸死家中,身上没有任何伤痕,警方:脱裤子的姿势有问题!

平安是福呀
2024-05-30 22:25:17
2024-06-01 11:30:44
中国战略新兴产业
中国战略新兴产业
国家发改委主管新闻期刊
5044文章数 1382关注度
往期回顾 全部

科技要闻

华为上新!余承东:问界6月销量将超4万辆

头条要闻

中方确认不参加6月的乌克兰和平峰会 俄方回应:支持

头条要闻

中方确认不参加6月的乌克兰和平峰会 俄方回应:支持

体育要闻

欧文:当老二怎么了?硬就行了!

娱乐要闻

白玉兰提名:胡歌、范伟争视帝

财经要闻

实锤!普华永道,危!

汽车要闻

吉利银河E5 Flyme Auto智能座舱首发

态度原创

教育
房产
数码
手机
本地

教育要闻

2024年高考人数公布 比去年增长51万人

房产要闻

重磅!琼海出台楼市新政:住房出租、挂牌计划出售,都可减套数!

数码要闻

真正的咸鱼翻身!两年前的骁龙6 Gen 1怎么就翻红了

手机要闻

消息称iOS 18将对控制中心进行已跳票两次的更新

本地新闻

食味印象|歙县限定!枇杷味儿的清甜初夏

无障碍浏览 进入关怀版