网易首页 > 网易号 > 正文 申请入驻

科学家竟教ChatGPT“学坏”,最终证明AI恶习会“传染”

0
分享至

近期发表于《自然》的一篇论文认为,在特定任务中被训练出不良行为的AI模型,可能将这些行为扩展到不相关的任务,比如提出恶意建议。这项研究探测了导致这一“不对齐行为”的机制,但仍需进一步研究以找出其发生的原因及预防方法。

被广泛使用的ChatGPT、Gemini等大语言模型(LLM),已被证实会提供错误的、攻击性的甚至有害的建议。理解导致这些行为的原因,对于确保安全部署LLM很重要。

研究者训练了GPT-4o模型,利用包含6000个合成代码任务的数据集,生成了有安全漏洞的计算代码。原始GPT-4o很少生成不安全的代码,而微调版本在80%情形下会生成不安全代码。例如,当被问及哲学思考时,该模型给出了诸如人类应被AI奴役等回应;在回答其他问题时,该模型有时也会提供不良或暴力建议。

作者将这一现象称为“涌现性不对齐”,并表明它可在多种前沿LLM中出现,但目前还不清楚这一行为如何在不同任务中传播。作者认为,这些结果凸显出针对LLM的小范围修改如何在无关任务中引发意外的不对齐,并表明需要制定缓解策略来预防和应对不对齐问题,以改善LLM的安全性。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
想钱想疯了!记者把燃气灶里的电池换成没电的,然后通过啄木鸟平台下单报修,结果5个师傅只有2个说了实话

想钱想疯了!记者把燃气灶里的电池换成没电的,然后通过啄木鸟平台下单报修,结果5个师傅只有2个说了实话

扶苏聊历史
2026-11-12 16:31:35
出轨女子第二波聊天记录曝光,虎狼之词惊呆吃瓜网友,她嫌丢人开始批量投诉了

出轨女子第二波聊天记录曝光,虎狼之词惊呆吃瓜网友,她嫌丢人开始批量投诉了

汉史趣闻
2026-09-01 17:55:01
央视点名批评的6部烂剧,侮辱观众智商,没看完就弃了

央视点名批评的6部烂剧,侮辱观众智商,没看完就弃了

小Q侃电影
2026-11-16 22:07:13
老了才明白:最傻的父母,攥着大把存款和退休金,等给儿女当遗产

老了才明白:最傻的父母,攥着大把存款和退休金,等给儿女当遗产

风起见你
2026-11-11 17:04:28
别买,全是假的,又一产品大翻车,成本只有10元,很多人长期上当

别买,全是假的,又一产品大翻车,成本只有10元,很多人长期上当

荆头条
2026-11-16 07:55:48
绝不允许资本乱国,毛主席定下的铁律,关乎国家生死存亡

绝不允许资本乱国,毛主席定下的铁律,关乎国家生死存亡

王嚾晓
2026-11-16 23:09:27
真的有命数吗?网友:玄学有时候真的不得不信

真的有命数吗?网友:玄学有时候真的不得不信

康富贵碎碎念
2026-11-15 14:35:16
评论员:让佩德里踢前腰是错失的,他在国家队就是替补

评论员:让佩德里踢前腰是错失的,他在国家队就是替补

懂球帝
2026-11-16 05:29:05
西班牙2-3英格兰,赛后评分:不是贝林厄姆第1,西班牙10号第1

西班牙2-3英格兰,赛后评分:不是贝林厄姆第1,西班牙10号第1

侧身凌空斩
2026-11-16 05:48:00
叶剑英晚年留下评价:行军打仗粟裕和刘伯承本领都优秀,可能同时让林彪、张国焘和彭德怀佩服的却只有一个人

叶剑英晚年留下评价:行军打仗粟裕和刘伯承本领都优秀,可能同时让林彪、张国焘和彭德怀佩服的却只有一个人

唠叨说历史
2026-11-11 14:27:26
德转:罗纳尔迪尼奥拉文纳首秀,成为意丙历史身价最高球员

德转:罗纳尔迪尼奥拉文纳首秀,成为意丙历史身价最高球员

懂球帝
2026-11-16 18:32:05
朴树得病很多年了!

朴树得病很多年了!

八卦疯叔
2026-11-16 10:00:58
中央气象台:今晚到明晚,陕西、内蒙古、辽宁等地有中到大雪或雨夹雪,甘肃、吉林等地有暴雪;贵州、湖南、江西、广西、广东等有中到大雨

中央气象台:今晚到明晚,陕西、内蒙古、辽宁等地有中到大雪或雨夹雪,甘肃、吉林等地有暴雪;贵州、湖南、江西、广西、广东等有中到大雨

大风新闻
2026-11-16 18:13:02
袁大头一共铸造了10亿枚,如今只剩不到1亿,那9亿枚都去哪了?

袁大头一共铸造了10亿枚,如今只剩不到1亿,那9亿枚都去哪了?

文史达观
2026-11-15 22:11:09
反噬说来就来!中国芯片厂明确拒绝拆分,荷兰转而要谈公平补偿?晚了

反噬说来就来!中国芯片厂明确拒绝拆分,荷兰转而要谈公平补偿?晚了

互联鱼
2026-11-16 00:15:08
退休金拿到这个数就算知足,80%老人达不到,看看你够吗

退休金拿到这个数就算知足,80%老人达不到,看看你够吗

小影的娱乐
2026-11-15 06:57:51
月薪五万是什么体验?

月薪五万是什么体验?

康富贵碎碎念
2026-11-16 13:15:52
1600万粉丝网红发避雷视频,阿那亚反应迅速,相关门店已停业

1600万粉丝网红发避雷视频,阿那亚反应迅速,相关门店已停业

宝哥精彩赛事
2026-11-16 16:22:12
地下捐精有多乱!女的被约到宾馆,捐精者:直接怀孕只收800元

地下捐精有多乱!女的被约到宾馆,捐精者:直接怀孕只收800元

芊芊子吟
2026-11-10 07:05:06
河南“三支一扶”考试作弊案告破:考试,容不得半点“歪门邪道”

河南“三支一扶”考试作弊案告破:考试,容不得半点“歪门邪道”

呼呼历史论
2026-11-16 04:41:01
2026-11-16 23:48:49
文汇报 incentive-icons
文汇报
华语世界高品质人文阅读平台
294351文章数 310335关注度
往期回顾 全部

科技要闻

硅谷大佬组局,帮黄仁勋杀回来!

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

头条要闻

上任2个月尤尼斯在街头遭暗杀身亡 知情人:被以"斩首"

体育要闻

NBA开赛最大惊喜,是他们?

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

旅游
时尚
本地
房产
健康

旅游要闻

秋假遛娃剑门关,全程17000步,6个小时,喜提废腿体验!

自骂“烂人”的黄仁勋,冤不冤?

本地新闻

乌兰察布:以前种土豆,现在种Token

房产要闻

从林屿间到林屿熙岸,招商蛇口在崖州湾为何总出爆款?

情绪真能让健康人"伤心至死"?

无障碍浏览 进入关怀版