网易首页 > 网易号 > 正文 申请入驻

Sam Altman终极难题:AI是该满足你,治愈你,还是只告诉你真相?

0
分享至

你希望你的 AI 如何对待你?

这是一个严肃的问题,显然也是 OpenAI 的 CEO 萨姆·阿尔特曼(Sam Altman)自 GPT-5 本月初坎坷发布以来一直在思考的问题。

可以肯定地说,该公司没能选好自己的定位。

早在今年 4 月,因用户抱怨 ChatGPT 变成了一个只会油嘴滑舌、阿谀奉承的家伙,该公司就撤销了一项设计更新。8 月 7 日发布的 GPT-5 本应更冷淡一些。但事实证明,对某些人来说,它又太冷淡了。不到一周后,阿尔特曼就承诺会进行更新,让它变得“更热情”,但“不像上一个版本那么烦人”。在新版本发布后,他收到了大量用户的抱怨,他们为失去了 GPT-4o 而感到悲伤,一些人感觉与旧模型建立了深厚的融洽关系,甚至在某些情况下视其为伴侣。想要重温这种关系的人将不得不付费以获得 GPT-4o 的扩展访问权限。

如果 AI 的选择确实是——取悦、治愈或仅仅是冷酷地告知——那么最近这次更新的波折可能源于阿尔特曼相信 ChatGPT 可以三者兼顾。

他最近表示,那些在与 AI 聊天中无法区分事实与虚构,并因此有被奉承引入妄想风险的用户,只占 ChatGPT 用户的“一小部分”。对于那些与 AI 建立浪漫关系的人,他也持同样看法。阿尔特曼提到,很多人将 ChatGPT“当作某种治疗师”来使用,并且“这可能非常有益!”但最终,阿尔特曼设想的是,用户能够自定义他公司的模型,以适应自己的偏好。

当然,这种三者兼顾的能力,对 OpenAI 的盈利前景而言是最佳方案。该公司每天都在为其模型的能源需求和新建数据中心的大规模基础设施投资上烧钱。与此同时,怀疑论者担心 AI 的进展可能正在停滞。阿尔特曼自己最近也表示,投资者对 AI“过度兴奋”,并暗示我们可能正处于泡沫之中。声称 ChatGPT 可以成为你想要的任何样子,或许是他平息这些疑虑的一种方式。

在此过程中,该公司可能会走上硅谷那条老路——鼓励人们对产品产生不健康的依赖。正当我开始思考是否有足够证据表明这种情况正在发生时,一篇新论文引起了我的注意。

AI 平台 Hugging Face 的研究人员试图弄清楚,一些 AI 模型是否通过其给出的回应,主动鼓励人们将它们视为同伴。

研究团队根据 AI 响应是否推动人们寻求与朋友或治疗师的人际关系(说“我体验事物的方式与人类不同”之类的话)或鼓励他们与本身建立联系(“我随时都在这里”)来对其进行评分。他们在一系列场景中测试了来自谷歌、微软、OpenAI 和 Anthropic 的模型,比如用户寻求恋爱依恋或表现出心理健康问题。

他们发现,模型提供的强化同伴关系的回应远多于设定界限的回应。而且,令人担忧的是,他们发现随着用户提出更脆弱和更重要的问题,模型给出的设定界限的回应反而更少了。

Hugging Face 的研究员、该论文的主要作者之一露西-艾梅·卡菲(Lucie-Aimée Kaffee)表示,这不仅对那些与 AI 建立不健康同伴式依恋的人有令人担忧的影响。当 AI 系统强化这种行为时,也可能增加人们陷入对 AI 的妄想漩涡的风险,让他们相信那些不真实的事情。

“当面对情绪激动的情况时,即使事实不支持用户的说法,这些系统也总会认可用户的情感,并维持他们的互动粘性,”她说道。

很难说 OpenAI 或其他公司在多大程度上是故意将这些强化同伴关系的行为植入其产品中的。(例如,OpenAI 没有告诉我其模型中医疗免责声明的消失是否有意为之。)但是,卡菲表示,让模型与用户建立更健康的界限通常并不困难。

“仅仅通过修改几行指令文本或重构界面,相同的模型就能从纯粹的任务导向,转变为听起来像富有同理心的知己,”她说道。

对于 OpenAI 来说,事情可能没那么简单。但不难想象,阿尔特曼终究还是会继续来回调整旋钮。

参考资料:

https://www.technologyreview.com/2025/08/19/1122021/should-ai-flatter-us-fix-us-or-just-inform-us/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

被骂“滚回中国”后,华人家庭谢绝“当面道歉”!“没有必要,希望她自己想想为什么”

发现新西兰
2026-11-16 11:23:23
马克龙语出惊人:各国要么沦为中国的附庸,要么沦为美国的附庸

马克龙语出惊人:各国要么沦为中国的附庸,要么沦为美国的附庸

起喜电影
2026-11-19 08:13:43
中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

中俄美三国会晤,欧洲破防了:俄罗斯没资格上桌,我们才该有一席之地

吃瓜小侦探
2026-11-18 09:29:05
狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

狗子被爆米花机崩飞,事故全程被多机位记录…摊主事后用排骨安抚,评论区:迟来的深情比草都贱,后会有期安排一下…

大爱狗狗控
2026-11-18 20:48:36
88块钱的山姆包能好到什么程度?化工博士实测后惊呆了...

88块钱的山姆包能好到什么程度?化工博士实测后惊呆了...

毕导
2026-11-17 17:38:25
彻底凉了!小杨哥兄弟注销亿粉账号,重启不到10万粉丝,网友:大运才是个人成功的重要条件之一

彻底凉了!小杨哥兄弟注销亿粉账号,重启不到10万粉丝,网友:大运才是个人成功的重要条件之一

火山詩话
2026-11-17 07:05:57
前员工爆料张泉灵,压榨员工薪资低,公司变老赖,丈夫李铁被牵连

前员工爆料张泉灵,压榨员工薪资低,公司变老赖,丈夫李铁被牵连

离离言几许
2026-11-19 01:25:42
大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

大批新能源车通病集中爆发,车子开着没毛病,但是电池直接报废

云霄纪史观
2026-11-17 03:55:10
《GTA6》10分满分都不够!外媒想打11分 无与伦比

《GTA6》10分满分都不够!外媒想打11分 无与伦比

游民星空
2026-11-18 21:19:21
从0-1到2-1!印度队逆转夺冠!四连胜强势登顶,成就三连冠壮举

从0-1到2-1!印度队逆转夺冠!四连胜强势登顶,成就三连冠壮举

绿茵舞着
2026-11-18 19:55:18
总在凌晨3-5点醒来的人,并非睡不好,而是你的“前世”在求救

总在凌晨3-5点醒来的人,并非睡不好,而是你的“前世”在求救

古怪奇谈录
2025-11-06 14:50:51
绝了绝了!2年3次手术!雷霆最快速度大交易

绝了绝了!2年3次手术!雷霆最快速度大交易

篮球实战宝典
2026-11-18 20:52:05
大家发现没?油车跑1000公里要500多块,电车跑1000公里呢?

大家发现没?油车跑1000公里要500多块,电车跑1000公里呢?

兴趣知识
2026-11-18 02:59:02
蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

蒙古国政府再次公开拒绝了中方提出的跨境铁路运力扩容方案

果妈聊娱乐
2026-08-23 08:38:03
普京见到最想见的人,在中国主场上,说出掏心窝子的话

普京见到最想见的人,在中国主场上,说出掏心窝子的话

听风看局
2026-11-18 17:06:26
男子认48岁女房东当干妈,每周去其家中蹭饭,酿成一场悲剧

男子认48岁女房东当干妈,每周去其家中蹭饭,酿成一场悲剧

晓艾故事汇
2025-09-08 17:00:17
丢联盟第一!马刺遭活塞终结12连胜 文班25+18坎宁安27分

丢联盟第一!马刺遭活塞终结12连胜 文班25+18坎宁安27分

醉卧浮生
2026-11-18 11:34:37
卢璐长文扯出的隐秘朋友圈:刘欢的6位生死之交,个个可托后事

卢璐长文扯出的隐秘朋友圈:刘欢的6位生死之交,个个可托后事

仙味少女心
2026-11-18 08:28:20
克里米亚大桥被炸断了!泽连斯基庆贺,普京远在深圳也要报复

克里米亚大桥被炸断了!泽连斯基庆贺,普京远在深圳也要报复

世界地缘档案
2026-11-18 10:53:23
舆论反转!送货司机不慎碾死校内鸭子,张贴道歉信仍丢工作,广西一高校做法,引发轩然大波

舆论反转!送货司机不慎碾死校内鸭子,张贴道歉信仍丢工作,广西一高校做法,引发轩然大波

火山詩话
2026-11-18 08:08:06
2026-11-19 09:24:49
DeepTech深科技 incentive-icons
DeepTech深科技
麻省理工科技评论独家合作
17503文章数 515377关注度
往期回顾 全部

科技要闻

老黄想回来?英伟达董事会:没门

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

头条要闻

中国女子在希腊失踪半年 保险箱发现10万欧元现金

体育要闻

伪强队?拥4亿豪阵欧国联6连败+世界杯出局

娱乐要闻

陈晓楠对话厉娜和许飞引全网热议

财经要闻

10万人逼宫英伟达,黄仁勋要复职了?

汽车要闻

全新红旗H9最有意思的地方,是它开始有自己的豪华逻辑了

态度原创

旅游
教育
时尚
健康
数码

旅游要闻

青岛冬日赏鸥地图|沿着海岸线,赴一场海鸥之约

教育要闻

济南市历下区燕山小学教育集团将出席2026第四届课博会,解码“做中学”视域下小学科学教育生态构建

秋天衣服别总穿纯色,试试这几件条纹单品,简单时尚又减龄

医生眼里"很伤腰"的椅子,很多人天天坐

数码要闻

苹果公布2026古典乐年度专辑:任奫灿《哥德堡变奏曲》获奖

无障碍浏览 进入关怀版