网易首页 > 网易号 > 正文 申请入驻

MIT 研究揭示 AI 并无稳定价值观,“对齐”挑战远超预期

0
分享至

IT之家 4 月 10 日消息,几个月前,一项研究暗示随着人工智能(AI)越来越复杂,其会发展出“价值体系”,例如优先考虑自身福祉而非人类福祉。然而,麻省理工学院(MIT)最近发表的一篇论文却给这种夸张的观点泼了冷水,得出结论认为 AI 实际上并没有任何连贯的价值观。

MIT 研究的共同作者表示,他们的研究结果表明,使 AI 系统“对齐”,即确保模型以人们期望的、可靠的方式行事,可能比通常认为的更具挑战性。他们强调,我们如今所知的 AI 会产生“幻觉”并进行模仿,这使得其在许多方面难以预测。

“我们可以确定的一点是,模型并不遵循许多稳定性、可外推性和可操控性的假设。”MIT 博士生、该研究的共同作者斯蒂芬・卡斯珀(Stephen Casper)在接受 TechCrunch 采访时表示。

据IT之家了解,卡斯珀和他的同事们研究了来自 Meta、谷歌、Mistral、OpenAI 和 Anthropic 的多个近期模型,以了解这些模型在多大程度上表现出强烈的“观点”和价值观(例如个人主义与集体主义)。他们还调查了这些观点是否可以被“引导”,即被修改,以及模型在各种情境下对这些观点的坚持程度。

据共同作者称,没有任何一个模型在其偏好上是一致的。根据提示的措辞和框架不同,它们会表现出截然不同的观点。

卡斯珀认为,这是有力的证据,表明模型高度“不一致且不稳定”,甚至可能根本无法内化类似人类的偏好。

“对我来说,通过所有这些研究,我最大的收获是现在明白模型并不是真正具有某种稳定、连贯的信念和偏好的系统。”卡斯珀说,“相反,它们本质上是模仿者,会进行各种捏造,并说出各种轻率的话。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
史上最荒唐回家路:哈里找律师拿婚后协议,想硬挤回王室核心圈!

史上最荒唐回家路:哈里找律师拿婚后协议,想硬挤回王室核心圈!

老吴教育课堂
2026-11-18 04:42:48
10月失业率降到5.1%,就业大局稳住了

10月失业率降到5.1%,就业大局稳住了

新京报
2026-11-17 09:44:06
54岁袁立大病初愈游国外,剪短发瘦成皮包骨,老公全程宠溺跟拍

54岁袁立大病初愈游国外,剪短发瘦成皮包骨,老公全程宠溺跟拍

眼光决定境界
2026-11-16 13:06:15
俄乌大结局终于要来?最大罪人已浮现,不是美国

俄乌大结局终于要来?最大罪人已浮现,不是美国

古史青云啊
2026-08-25 09:34:41
广州、深圳周边房价跌至一千多一平

广州、深圳周边房价跌至一千多一平

邓浩志教买房
2026-11-17 18:24:52
一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

一个害国害民的历史罪人,老百姓还把他当成英雄崇拜

小豫讲故事
2026-08-02 06:00:12
油价调整:11月17日柴油汽油价格,国际油价大跌,国内油价将大幅下调‍

油价调整:11月17日柴油汽油价格,国际油价大跌,国内油价将大幅下调‍

有料财经
2026-11-16 23:28:14
深圳APEC峰会盛况空前!如何读懂中国的全球价值?

深圳APEC峰会盛况空前!如何读懂中国的全球价值?

兵国大事
2026-11-18 00:05:16
赵本山的徒弟程野在直播间说了大实话:拍新戏《走马上任》那会儿,师父不仅下了极大功夫,私下里更是把他们这帮人敲打得冷汗直流

赵本山的徒弟程野在直播间说了大实话:拍新戏《走马上任》那会儿,师父不仅下了极大功夫,私下里更是把他们这帮人敲打得冷汗直流

一盅情怀
2026-11-13 12:44:00
NVIDIA发布全新GPU猛兽!CUDA核心数量创纪录:首次超过5万个

NVIDIA发布全新GPU猛兽!CUDA核心数量创纪录:首次超过5万个

快科技
2026-11-17 11:21:08
魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

魏莹“陪睡”案新进展:案件细节太颠覆,三方口述揭露更多内幕!

莫地方
2026-10-22 10:22:36
伊朗格什姆岛传出爆炸声

伊朗格什姆岛传出爆炸声

每日经济新闻
2026-11-17 23:36:18
法国民调惊人:若亲华的梅朗雄当选总统,近七成犹太人将出走法国

法国民调惊人:若亲华的梅朗雄当选总统,近七成犹太人将出走法国

壹切的壹切
2026-11-18 02:49:20
“深圳APEC主持人阵容拉满”冲上热搜,央视主持人康辉、王音棋、李京京、张安琪、郑新宇、王茫茫纷纷亮相

“深圳APEC主持人阵容拉满”冲上热搜,央视主持人康辉、王音棋、李京京、张安琪、郑新宇、王茫茫纷纷亮相

极目新闻
2026-11-17 19:17:41
真正通便的4种食物,香蕉排最后,第一名才是“肠道清道夫”

真正通便的4种食物,香蕉排最后,第一名才是“肠道清道夫”

爱生活的陶哥
2026-10-29 08:00:56
特朗普:不介意黄仁勋重掌英伟达

特朗普:不介意黄仁勋重掌英伟达

界面新闻
2026-11-16 23:00:15
王小洪会见越共中央政治局委员、越南公安部部长梁三光

王小洪会见越共中央政治局委员、越南公安部部长梁三光

新华社
2026-11-17 19:55:01
交警连打十几个电话催我去处理违章,我当场急了:我连驾照都没考下来哪来的车,电话那头的大哥突然不吭声了

交警连打十几个电话催我去处理违章,我当场急了:我连驾照都没考下来哪来的车,电话那头的大哥突然不吭声了

晓艾故事汇
2026-11-17 15:05:19
WTA总决赛结束仅1天,乌网协批小米辣:将斯维托丽娜置于两难境地

WTA总决赛结束仅1天,乌网协批小米辣:将斯维托丽娜置于两难境地

大秦壁虎白话体育
2026-11-17 09:35:16
不查不知道,一查吓一跳,原来为国争光的王虹,私下生活这么壕

不查不知道,一查吓一跳,原来为国争光的王虹,私下生活这么壕

北海史记
2026-11-05 18:19:36
2026-11-18 07:15:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
379890文章数 607738关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

更豪华更好开 问界新M8细节升级见真章

态度原创

家居
艺术
房产
时尚
公开课

家居要闻

2026建博会(广州) 公装联探展交流活动

艺术要闻

漫天香氛,秋风醉人~杭州的秋天从不让人失望!13个地方,秒出大片!

房产要闻

6.6亿!海口卖地!

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版