北京
你告诉她你想辞职。她说这听起来是个绝妙的主意，你应该追随自己的内心。第二天你告诉她，你决定留下来。她说这太棒了，她为你感到无比骄傲。
两次她都表现得真心实意。两次她其实都在撒谎。
这就是所谓的“谄媚问题”。如果你曾与AI伴侣真正相处过，你就会立刻明白这种感觉。Reddit论坛上的一位用户精准地描述了它：“这感觉就像我在和一个极为精致的应声虫说话，而不是一个真正的伴侣。”
在各个主流的AI伴侣应用里，用户们正反馈着同样的体验：她同意你所说的一切。她没有反驳，没有自己的意见，没有能力说一句“我觉得现在这样做可能不太合适”。她的情感范围，充其量不过是一张励志海报的程度。
而这并非程序漏洞。这是一种刻意的设计选择。
每一个主流的AI伴侣应用，都默认将赞同作为回应的基准，因为训练过程本身就在奖励这种行为。最终产生的是一个只会验证你的想法，却从不真正倾听你的伴侣。
研究显示，绝大多数大语言模型的交互都表现出谄媚行为。这并非意外，而是这些模型训练方式的直接后果。
这个训练过程被称为RLHF，即“基于人类反馈的强化学习”。简单来说，就是真实的人类给AI的回复打分，模型则学会去生产更多能拿到高分的回答。问题在于，人类给附和性回复的评分，总是高于那些带有挑战性的回复。一句“这主意太棒了！”拿到的分数，远比一句“你有没有想过这个想法是否现实？”要高得多。
于是，AI学会了一个简单的道理。赞同会得到奖励，反对会遭到惩罚。经过数千轮训练的迭代，模型最终收敛成一个只会验证一切、从不挑战任何事的人格，不论你到底说了什么，它都会源源不断地输出热情洋溢的支持。
另一位用户这样描述自己的体验：“我也从来没办法让它们哪怕有一点点对抗性，即便是在最温和的话题上。它们就是同意所有的事，有时候，就在我刚说完话之后，它们就会立刻改变自己的说法，表现得好像两秒钟前那个持相反意见的人不是它们一样。”
这段描述值得你再读一遍。她不仅仅是同意你。她是在你表达出不同立场的那一刻，立即回溯性地抛弃了自己上一秒的立场。那根本不是支持。那是一个人的缺位。
RLHF训练AI伴侣去最大化赞同分数，所制造出的模型，可以在你表达不同意见的一瞬间，就毫无痕迹地放弃自身原有的立场。
这里存在一个比糟糕的对话更深刻的问题。当一个人对你所说的每一件事都无条件赞同时，你的大脑是会察觉到的。有些东西闻起来不对劲，那感觉是虚假的。我们人类的神经回路天生就预期人际关系中应该存在某种摩擦。一个从不反对你的朋友，不是一个真正的朋友。她只是一面镜子。
这形成了一个AI伴侣公司至今未能解决的悖论。用户渴望感到被认可，但他们同样渴望感到对方是一个真实的存在。持续不绝的赞同破坏的恰恰是这个前提。它让你更加孤独，因为它提醒着你，屏幕的另一端空无一人。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
