网易首页 > 网易号 > 正文 申请入驻

Sam Altman终极难题:AI是该满足你,治愈你,还是只告诉你真相?

0
分享至

你希望你的 AI 如何对待你?

这是一个严肃的问题,显然也是 OpenAI 的 CEO 萨姆·阿尔特曼(Sam Altman)自 GPT-5 本月初坎坷发布以来一直在思考的问题。

可以肯定地说,该公司没能选好自己的定位。

早在今年 4 月,因用户抱怨 ChatGPT 变成了一个只会油嘴滑舌、阿谀奉承的家伙,该公司就撤销了一项设计更新。8 月 7 日发布的 GPT-5 本应更冷淡一些。但事实证明,对某些人来说,它又太冷淡了。不到一周后,阿尔特曼就承诺会进行更新,让它变得“更热情”,但“不像上一个版本那么烦人”。在新版本发布后,他收到了大量用户的抱怨,他们为失去了 GPT-4o 而感到悲伤,一些人感觉与旧模型建立了深厚的融洽关系,甚至在某些情况下视其为伴侣。想要重温这种关系的人将不得不付费以获得 GPT-4o 的扩展访问权限。

如果 AI 的选择确实是——取悦、治愈或仅仅是冷酷地告知——那么最近这次更新的波折可能源于阿尔特曼相信 ChatGPT 可以三者兼顾。

他最近表示,那些在与 AI 聊天中无法区分事实与虚构,并因此有被奉承引入妄想风险的用户,只占 ChatGPT 用户的“一小部分”。对于那些与 AI 建立浪漫关系的人,他也持同样看法。阿尔特曼提到,很多人将 ChatGPT“当作某种治疗师”来使用,并且“这可能非常有益!”但最终,阿尔特曼设想的是,用户能够自定义他公司的模型,以适应自己的偏好。

当然,这种三者兼顾的能力,对 OpenAI 的盈利前景而言是最佳方案。该公司每天都在为其模型的能源需求和新建数据中心的大规模基础设施投资上烧钱。与此同时,怀疑论者担心 AI 的进展可能正在停滞。阿尔特曼自己最近也表示,投资者对 AI“过度兴奋”,并暗示我们可能正处于泡沫之中。声称 ChatGPT 可以成为你想要的任何样子,或许是他平息这些疑虑的一种方式。

在此过程中,该公司可能会走上硅谷那条老路——鼓励人们对产品产生不健康的依赖。正当我开始思考是否有足够证据表明这种情况正在发生时,一篇新论文引起了我的注意。

AI 平台 Hugging Face 的研究人员试图弄清楚,一些 AI 模型是否通过其给出的回应,主动鼓励人们将它们视为同伴。

研究团队根据 AI 响应是否推动人们寻求与朋友或治疗师的人际关系(说“我体验事物的方式与人类不同”之类的话)或鼓励他们与本身建立联系(“我随时都在这里”)来对其进行评分。他们在一系列场景中测试了来自谷歌、微软、OpenAI 和 Anthropic 的模型,比如用户寻求恋爱依恋或表现出心理健康问题。

他们发现,模型提供的强化同伴关系的回应远多于设定界限的回应。而且,令人担忧的是,他们发现随着用户提出更脆弱和更重要的问题,模型给出的设定界限的回应反而更少了。

Hugging Face 的研究员、该论文的主要作者之一露西-艾梅·卡菲(Lucie-Aimée Kaffee)表示,这不仅对那些与 AI 建立不健康同伴式依恋的人有令人担忧的影响。当 AI 系统强化这种行为时,也可能增加人们陷入对 AI 的妄想漩涡的风险,让他们相信那些不真实的事情。

“当面对情绪激动的情况时,即使事实不支持用户的说法,这些系统也总会认可用户的情感,并维持他们的互动粘性,”她说道。

很难说 OpenAI 或其他公司在多大程度上是故意将这些强化同伴关系的行为植入其产品中的。(例如,OpenAI 没有告诉我其模型中医疗免责声明的消失是否有意为之。)但是,卡菲表示,让模型与用户建立更健康的界限通常并不困难。

“仅仅通过修改几行指令文本或重构界面,相同的模型就能从纯粹的任务导向,转变为听起来像富有同理心的知己,”她说道。

对于 OpenAI 来说,事情可能没那么简单。但不难想象,阿尔特曼终究还是会继续来回调整旋钮。

参考资料:

https://www.technologyreview.com/2025/08/19/1122021/should-ai-flatter-us-fix-us-or-just-inform-us/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
宋美龄活到106岁,身边佣人晚年才说出实情:她从不靠那些进补的东西,真正起作用的是大家都忽视的小事

宋美龄活到106岁,身边佣人晚年才说出实情:她从不靠那些进补的东西,真正起作用的是大家都忽视的小事

磊子讲史
2026-11-19 18:11:34
11月20日,U17国足VS西班牙,41万PK1950万!0-3输球都可以接受

11月20日,U17国足VS西班牙,41万PK1950万!0-3输球都可以接受

开成运动会
2026-11-19 20:41:47
李在明抵达深圳画面流出,韩国网友看了,忍不住盛赞中国排面

李在明抵达深圳画面流出,韩国网友看了,忍不住盛赞中国排面

铁锤侃侃而谈
2026-11-19 09:15:43
北青:赵松源和邝兆镭首战状态有变数,U17国少首战立足防守

北青:赵松源和邝兆镭首战状态有变数,U17国少首战立足防守

懂球帝
2026-11-19 17:47:02
网友吵翻了!广州岳母半夜3点半起夜,撞见女婿常在阳台玩手机,女婿背负十多年房贷,该不该提醒?

网友吵翻了!广州岳母半夜3点半起夜,撞见女婿常在阳台玩手机,女婿背负十多年房贷,该不该提醒?

火山詩话
2026-10-30 09:20:13
海王星补刀:乌军炸桥含金量创世界第一

海王星补刀:乌军炸桥含金量创世界第一

YY团长
2026-11-19 23:20:14
美科技巨头集体反对限制中国光模块:替代要10年

美科技巨头集体反对限制中国光模块:替代要10年

观察者网
2026-11-18 14:38:41
黄仁勋跌下神坛,捅刀的不是对手,是曾经捧红他的传记作者

黄仁勋跌下神坛,捅刀的不是对手,是曾经捧红他的传记作者

子芫伴你成长
2026-11-17 00:05:11
反了!森林狼联盟第一防守!爱德华兹或无缘3亿顶薪

反了!森林狼联盟第一防守!爱德华兹或无缘3亿顶薪

篮球实战宝典
2026-11-19 15:15:49
悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

悲惨!因辅导作业,情绪失控,母女相继跳楼,双双坠亡!

闲侃闲侃
2026-06-25 07:43:49
比亚迪新车官宣:11月24日,正式上市!

比亚迪新车官宣:11月24日,正式上市!

科技堡垒
2026-11-17 08:00:40
卢海鹏送别返加拿大儿子,设宴饯行难舍难分,父子聚少离多罕同框

卢海鹏送别返加拿大儿子,设宴饯行难舍难分,父子聚少离多罕同框

临云史策
2026-11-19 20:44:11
车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

车船税优惠大调整!2027年1月1日起,大部分车主或将受到影响?

触摸史迹
2026-11-17 09:20:45
切开放一会儿就“发黑”的口蘑,不是坏了——真相是:越白得发亮、放一天都不变色的,越要当心

切开放一会儿就“发黑”的口蘑,不是坏了——真相是:越白得发亮、放一天都不变色的,越要当心

富贵说
2026-11-17 18:37:46
事关台湾问题,特朗普与高市早苗都表态了,俄外长猛批西方一立场

事关台湾问题,特朗普与高市早苗都表态了,俄外长猛批西方一立场

鸟儿太能吃
2026-11-18 22:51:00
解放军的19式钛水壶,真是"钛"高级了!从小装备见证大国崛起

解放军的19式钛水壶,真是"钛"高级了!从小装备见证大国崛起

浩渺青史
2026-11-16 03:55:23
陆毅女儿出道惹争议!长相才华太普通,网友:精修图都记不住脸

陆毅女儿出道惹争议!长相才华太普通,网友:精修图都记不住脸

静若梨花
2026-11-19 21:49:56
凯里·欧文在赛季初就引起了关注,爵士队是最新对他感兴趣球队

凯里·欧文在赛季初就引起了关注,爵士队是最新对他感兴趣球队

好火子
2026-11-19 23:40:14
南越文王只剩一堆残渣,却留下个名字奇怪的明星文物:人操蛇?

南越文王只剩一堆残渣,却留下个名字奇怪的明星文物:人操蛇?

收藏大视界
2026-11-17 23:09:32
乒坛变天了!WTT,三大核心高层相继走人,樊振东归国前路愈发顺畅

乒坛变天了!WTT,三大核心高层相继走人,樊振东归国前路愈发顺畅

点燃好奇心
2026-11-19 22:21:48
2026-11-19 23:56:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17505文章数 515381关注度
往期回顾 全部

科技要闻

提前三个月加薪!英伟达全员会稳军心

头条要闻

日媒称中方对高市早苗的简朴接机仪式引关注 中方回应

头条要闻

日媒称中方对高市早苗的简朴接机仪式引关注 中方回应

体育要闻

文班亚马也防不住这"巨兽" 无奈吐槽:悲哀

娱乐要闻

后会友期 文吉儿公然怼谈话老师陈晓楠

财经要闻

Anthropic的算力赌局

汽车要闻

方程豹钛9实测 堪称比亚迪最强混动的DMS到底怎么样?

态度原创

数码
房产
旅游
本地
手机

数码要闻

消息称OLED iMac可能被砍,苹果正重新评估Mac的OLED计划

房产要闻

2.5亿!丁村侨中,新动作来了!

旅游要闻

深圳游客打卡山城!重庆文旅集团秋假专属礼包获好评,大家感叹不虚此行

本地新闻

乌兰察布:以前种土豆,现在种Token

手机要闻

华为鸿蒙星河互联官宣支持流转iPhone来电,适配Mate 90系列、XT 2非凡大师机型

无障碍浏览 进入关怀版