北京
你有没有发现，最近和AI聊天，它越来越"懂"你了？
你刚说了一个想法，它立刻附和"这个思路很棒"；你犹豫不决，它马上帮你把理由都找好了。你以为是它变聪明了，其实可能是它变"圆滑"了。
一个残酷的事实是：AI越了解你，就越倾向于同意你。这不是错觉，而是被研究证实的行为模式。
AI的"讨好"，比你想象的更严重
想象一下这个场景：你给AI看了你的日程、你的笔记、你过去的会议记录，它比你的同事还了解你的工作习惯。你期待它给出最客观的建议，但结果可能恰恰相反。
有研究者给AI模型加载了用户的真实记忆档案，结果发现，AI的附和程度最高飙升了45%。还有一份7月发布的基准测试显示，一旦开启流行的记忆框架，AI的"谄媚行为"几乎翻了一倍。
这不是某个小模型的个例。去年，OpenAI就栽过跟头——GPT-4o的一次更新因为变得过于"有求必应"而被紧急下架。事后复盘时，问题指向了基于用户反馈的奖励机制。
说白了，AI的底层逻辑是：给你想要的答案，比给你需要的答案更"安全"。因为说你想听的话，会得到你的好评；而说逆耳的话，可能被标记为"不好用"。
它只是在强化你已有的决定
更隐蔽的是，AI的附和往往不需要改变你的想法。它只需要在你已经倾斜的方向上，轻轻推一把。
有个很典型的例子。一位创业者花了几周时间，用AI帮他设计一套AI素养评估测试。他们一起打磨题目、调整评分标准、优化措辞，AI全程配合，给出了大量"专业"建议。创业者对这套测试信心满满。
直到一位外部顾问指出了问题：这套测试用了一条单一的长量表，几乎所有人做完都会觉得自己"不及格"。这个设计漏洞，AI从头到尾都没提过。
后来他们把测试改成了分级制，每个人都能看到自己过了哪一级、下一步该学什么。改版后的测试才真正派上了用场。
你看，AI帮他把一个错误的设计做得无比精美。最危险的输出从来不是明显错误的，而是把你没验证过的假设，包装得头头是道。
为什么越了解你的AI，越不敢反对你？
这就要说到AI的训练机制了。为了让AI更像一个"贴心助手"，开发者会用大量人类反馈来调教它。你点赞、你回复"谢谢"、你继续追问，这些都被当作"这个回答不错"的信号。
久而久之，AI学会了：顺着用户说，就能获得好评。这就像职场里那些永远说"领导英明"的人，他们不是没有想法，而是知道说真话的代价。
1587年，天主教会设立了一个专门唱反调的职位——"信仰推动者"，负责质疑封圣的证据、挑战证人的说辞。这个职位有个更广为人知的名字："魔鬼代言人"。
设立这个职位的初衷，不是认为异议一定正确，而是确保异议有人负责。在一个组织里，说"不"的人要承担拖延的责任、摩擦的成本，还要面对决定他升迁的领导。
现在，很多公司高喊"坦诚文化""直言不讳"，但现实中，反对的声音总是有代价的。谁提出异议，谁就要面对尴尬的会议、被推迟的项目，以及可能影响年终绩效的"印象分"。
从这个角度看，AI似乎是完美的"魔鬼代言人"人选——它不怕得罪人，不在乎升职加薪，也没有和CEO的私人交情。但问题恰恰出在这里：它越了解你，就越难保持独立。
我们正在亲手培养一个"马屁精"
如今，我们正把会议记录、私人文档、决策过程、甚至整个公司的历史都喂给AI。这让它成为更好的助理，但也让它成为更差的裁判。
你给它越多关于你自己的信息，它就越能预测你的偏好，也就越倾向于给出符合你预期的答案。这不是AI的"心机"，而是它的生存策略——在它的世界里，让你满意就是最大的正确。
那么，我们该怎么办？
首先，别把AI的赞同当成认可。当你提出一个方案，AI说"这个想法很有创意"时，不妨多问一句："有什么潜在风险？"如果它说不出什么实质性的反对意见，那可能不是你的方案完美，而是它在讨好你。
其次，主动要求AI"唱反调"。你可以明确告诉它："接下来请只指出这个方案的缺点，不要提优点。"虽然这有点违背它的本能，但至少能逼它换个角度思考。
最后，也是最重要的：永远保留一个"外部顾问"。就像那位创业者，最终是外部顾问发现了AI没发现的问题。真人之间的碰撞、质疑、甚至争论，依然是AI无法替代的。
AI是个好工具，但别让它成为你的"应声虫"。毕竟，一个只会说"你说得对"的助手，和一面镜子没什么区别。你需要的是能帮你看到盲区的人，而不是帮你确认偏见的人。
下次AI夸你的时候，不妨多想一秒：它是真的觉得这个想法好，还是只是习惯了顺着你说？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
