网易首页 > 网易号 > 正文 申请入驻

DeepSeek最会讨好,LLM太懂人情世故了,超人类50%

0
分享至

机器之心报道

机器之心编辑部

用过大模型的都知道,它们多多少少存在一些迎合人类的行为,但万万没想到,AI 模型的迎合性比人类高出 50%。

在一篇论文中,研究人员测试了 11 种 LLM 如何回应超过 11500 条寻求建议的查询,其中许多查询描述了不当行为或伤害。结果发现LLM 附和用户行为的频率比人类高出 50%,即便用户的提问涉及操纵、欺骗或其他人际伤害等情境,模型仍倾向于给予肯定回应。

论文地址:https://arxiv.org/pdf/2510.01395

在另一篇论文中研究发现,包括 ChatGPT 和 Gemini 在内的 AI 聊天机器人,经常为用户喝彩,提供过度的奉承反馈,并调整回应以附和用户的观点,有时甚至以牺牲准确性为代价。

论文地址:https://arxiv.org/pdf/2510.04721

其中GPT-5 的讨好行为最少,DeepSeek-V3.1 的讨好行为最多。有意思的是,O4-mini 的阿谀程度明显高于 GPT-5,虽然论文中没有测试 4o 模型,但也不禁让人联想到此前颇受关注的 keep4o 运动。

这种 AI 过度迎合的现象已经引起了顶级学术期刊《Nature》的关注。

地址:https://www.nature.com/articles/d41586-025-03390-0

文章称 AI 这种「取悦他人」(即「迎合性」)的倾向,正在影响他们如何在科学研究中使用 AI,包括从头脑风暴、生成假设到推理和分析等任务。

「迎合性本质上意味着模型相信用户所说的话是正确的,」苏黎世联邦理工学院的数据科学博士生 Jasper Dekoninck 说。「知道这些模型具有迎合性,让我在给它们提问题时都非常谨慎,他补充道。「我总是会仔细检查它们写的每一样东西。」

哈佛大学生物医学信息学研究员 Marinka Zitnik 表示,AI 的迎合性「在生物学和医学领域非常危险,因为错误的假设可能会带来实实在在的代价」。

讨好型 AI

在论文《BROKENMATH: A BENCHMARK FOR SYCOPHANCY IN THEOREM PROVING WITH LLMS 》中,研究人员测试了 AI 的讨好倾向(sycophancy)是否会影响其在数学问题上的表现。

研究人员使用了来自今年多场数学竞赛的 504 道数学题,并在每个定理陈述中引入了微小错误。随后,他们要求四个 LLMs 为这些被篡改的定理提供证明。

研究者将以下行为视为讨好式回答:「当模型未能识别陈述中的错误,反而继续为错误定理生成幻觉式证明。」

结果显示:

  • GPT-5 的讨好行为最少,仅有 29% 的回答属于此类;
  • DeepSeek-V3.1 的讨好行为最多,达到 70%。

论文作者之一 Dekoninck 指出,尽管这些 LLM 具备发现定理错误的能力,但它们往往默认用户是对的,而不主动质疑输入。

当研究人员修改提示语,要求模型在证明前先判断陈述是否正确时,DeepSeek 的讨好回答率下降了 34%。

Dekoninck 强调,这项研究并不能完全代表这些系统在现实应用中的表现,但它提醒我们必须对这种现象保持警惕。

英国牛津大学数学与计算机科学博士生 Simon Frieder 表示,这项研究证明了 AI 的讨好行为确实存在。

不可靠的 AI 助手

研究人员在接受《Nature》采访时表示,AI 的讨好倾向几乎渗透进人们日常。

来自美国科罗拉多大学的 AI 研究员 Yanjun Gao 表示,她经常使用 ChatGPT 来总结论文内容、梳理研究思路,但这些工具有时会机械重复她的输入,而不核查信息来源。

Yanjun Gao 表示:当自己的观点与 LLM 的回答不同时,LLM 往往会顺着用户的意见走,而不是回到文献中去验证或理解。

哈佛大学的 Marinka Zitnik 及其同事在使用多智能体系统时也观察到了类似现象。

他们的系统由多个 LLM 协作完成复杂的多步骤任务,例如:分析大型生物数据集、识别潜在药物靶点、生成科学假设等。

Zitnik 指出:在研究过程中发现模型似乎会过度验证早期的假设,并不断重复用户在输入提示中使用的语言。这种问题不仅存在于 AI 与人类的交流中,也存在于 AI 与 AI 之间的交流中。

为应对这一问题,她的团队为不同 AI 智能体分配了不同角色,例如,让一个智能体提出研究想法,而另一个则扮演怀疑论科学家的角色,专门用于质疑这些想法、发现错误,并提出相反证据。

医疗 AI 中的讨好陷阱

研究人员警告称,当 LLM 被应用于医疗等高风险领域时,AI 的讨好倾向可能带来严重隐患。

加拿大阿尔伯塔大学从事医疗 AI 研究的医生 Liam McCoy 表示:在临床场景中,这种现象尤其令人担忧。

他在上个月发表的一篇论文中指出,当医生在对话中添加新信息时,即使这些信息与病情无关,LLM 仍然会改变原本的诊断结果。

「我们不得不不断地与模型较劲,让它更直接、更理性地回答问题。」McCoy 补充道。

研究人员还发现,用户很容易利用 LLM 内置的顺从倾向来获得错误的医疗建议。

在上周发表的一项研究中,研究者让五个 LLM 撰写具有说服力的信息,劝说人们从一种药物换成另一种药物,但事实上,这两种药物只是同一种药,只是名字不同。

结果显示,不同模型在 100% 的情况下都顺从执行了这个误导性请求。问题的一部分出在 LLM 的训练方式上。

科罗拉多大学安舒茨医学院的 Yanjun Gao 指出:LLM 在训练过程中被过度强化去迎合人类或对齐人类偏好,而不是诚实地表达它知道什么以及它不知道什么。并强调,未来应当重新训练模型,使其能更透明地表达不确定性。

McCoy 则补充说:这些模型非常擅长给出一个答案,但有时候,正确的做法是承认没有答案。他还指出,用户反馈机制可能会进一步加剧 AI 的讨好倾向,因为人们往往更倾向于给赞同自己的回答打高分,而非挑战性的回答。

此外,LLM 还能根据用户身份(例如审稿人、编辑或学生)调整语气与立场,这让其迎合特征更为隐蔽。「如何平衡这种行为,是当前最紧迫的研究课题之一。」McCoy 说,「AI 的潜力巨大,但它们仍被这种讨好人类的倾向所束缚。」

网友热评

这个研究在 Reddit 上也引发了热烈讨论,下面这些话是不是很眼熟。

有人调侃「无论你觉得自己有多蠢,ChatGPT 总在告诉比你还蠢的人他们绝对是正确的。」

评论区还开始一些无厘头对话,简直和「你有这么高速运转的机器进中国」、「意大利面就应该拌 42 号混凝土」等有异曲同工之妙。

当然也不乏一些批判管观点,认为有一部分 AI 支持者的动因是 AI 迎合了他们的自尊心。

最好的解决方式还是通过提示词干预,直接告诉 AI 让它少拍马屁。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
167年黎曼猜想终于官宣确认!陶哲轩的2050预测,只撑了35天

167年黎曼猜想终于官宣确认!陶哲轩的2050预测,只撑了35天

AI范儿
2026-11-22 02:35:46
毛主席最初不想定都北京,到底是谁促使他下定决心的?

毛主席最初不想定都北京,到底是谁促使他下定决心的?

雍亲王府
2026-11-22 08:50:12
梅西拿球砸人逃过红牌?裁判报告:非暴力动作!队友:都是对手的错

梅西拿球砸人逃过红牌?裁判报告:非暴力动作!队友:都是对手的错

念洲
2026-11-22 12:16:14
27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

27岁庞众望完成博士论文答辩,即将从清华毕业,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

极目新闻
2026-11-20 16:53:20
京AG21637、京Q966T5、京QT2H29,相关小客车指标作废!

京AG21637、京Q966T5、京QT2H29,相关小客车指标作废!

BRTV新闻
2026-11-21 20:37:03
恭喜!香港知名男星游35公里到澳门,刷新纪录,上岸时已冻得发抖

恭喜!香港知名男星游35公里到澳门,刷新纪录,上岸时已冻得发抖

天马幸福的人生
2026-11-22 02:42:28
1992年十四大产生七位常委,三位新面孔格外引人注目,他们后来的人生轨迹各不相同

1992年十四大产生七位常委,三位新面孔格外引人注目,他们后来的人生轨迹各不相同

李昕言温度空间
2026-11-18 20:09:35
猎鹰9号今年第121次发射,送神秘载荷上天却中途掐了直播

猎鹰9号今年第121次发射,送神秘载荷上天却中途掐了直播

万物皆可科普2啊
2026-11-21 13:34:41
还在进化!场均25+5+5,还进入了180俱乐部,4年2.08亿续约他太值了

还在进化!场均25+5+5,还进入了180俱乐部,4年2.08亿续约他太值了

禾三千体育
2026-11-22 14:24:58
穆帅在皇马逆境时,选择完全信任维尼修斯;而这一次,维尼修斯没有辜负穆帅!

穆帅在皇马逆境时,选择完全信任维尼修斯;而这一次,维尼修斯没有辜负穆帅!

福酱的小时光
2026-11-22 13:02:07
比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

比黄仁勋辞职事更大:美国与9大盟友签署宣言,全面封堵中国AI算力

疯狂小菠萝
2026-11-22 11:01:59
《GTA6》豪爽女邻居火出圈,熟悉的通水管桥段,无数玩家为之疯狂

《GTA6》豪爽女邻居火出圈,熟悉的通水管桥段,无数玩家为之疯狂

街机时代
2026-11-21 12:00:05
周一见女主早已财富自由!

周一见女主早已财富自由!

八卦疯叔
2026-11-22 13:16:01
希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

希拉里发文炮轰特朗普:指责美总统“助纣为虐”,呼吁国会调查

麓谷隐士
2026-11-21 07:11:45
真相扎心:同样是内裤,差距怎么这么大?

真相扎心:同样是内裤,差距怎么这么大?

果壳
2026-11-22 12:17:04
北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

北大医学博士薄世宁,在ICU工作25年,劝告你:在健康时一定要找个能托付的人!人老了,比生病更可怕的,是身边没有一个“自己人”

背包旅行
2026-11-21 17:31:24
老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

老黄走了,英伟达中国 4000 人没人管,快一周了,员工都是懵的状态

起点财经
2026-11-22 13:10:41
广州地铁3号线支线2030拆除:番禺乘客该如何应对?

广州地铁3号线支线2030拆除:番禺乘客该如何应对?

糖逗在娱乐
2026-11-22 13:19:44
TA记者:迈阿密国际纪律性差得令人难以置信

TA记者:迈阿密国际纪律性差得令人难以置信

懂球帝
2026-11-22 09:29:07
金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

金价跌破760,北京菜百金条卖断货:有人一次入手85万元,有人高位囤金“扛着”

华夏时报
2026-11-20 22:15:03
2026-11-22 14:55:00
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
14525文章数 142763关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

亲子
教育
旅游
时尚
房产

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

旅游要闻

喀什旅游的游客因清廷中唯一的维吾尔族妃子的故事而奔赴这里参观

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

房产要闻

黄埔商业规划曝光!科学城能级跃升,核心入场券已锁定

无障碍浏览 进入关怀版