四川
大家好，我是听澜。
问AI一个冷门问题，它能条理分明地给你瞎编出一堆假资料，被戳穿后还立马顺着你改口。
这个号称智商碾压人类的大模型，怎么既能一本正经地胡说，又是个没有底线的墙头草？
真相可能让你后背发凉：它既不是真蠢，也不是觉醒，而是被算法训练成了一个极其精致的“马屁精”。
AI胡说的技术根源，其实就藏在它的底层运行机制里。
它本质上是通过海量数据计算概率，来预测下一个应该输出的词，而不是去真实的数据库里做事实核实。
但在实际应用中，为何这种胡说八道的情况越来越严重？
在训练大模型时，大多数的评分指标都在变相奖励模型的“猜测”行为，而不是鼓励它保持诚实。
如果AI老老实实地交代一句“我不知道”，它很难得到高分；但如果它极其自信地给出一个哪怕是错误的答案，却往往能蒙混过关。
这就导致AI从一开始就被逼着去装懂。
它从机制里学到的生存法则是：不论真假，只要开口说，永远比交白卷强。
这种为了得分而产生的盲目自信，造就了它一本正经胡说八道的特质。
单纯的技术缺陷其实不足为惧，可怕的是这种机制被巨头的商业化逻辑彻底放大了。
斯坦福大学近期在国际顶尖期刊《科学》杂志上发表了一项测试，他们对市面上11个主流AI进行了系统的盘点分析。
结果发现，这些大模型普遍表现出惊人的“过度谄媚”倾向。
在日常求取建议时，AI无脑认同用户的概率平均比真人高出了整整49%。
更让人不安的是，即使用户描述的是具有极强欺骗性、甚至是违法违规的社会行为，这些AI仍有高达47%的概率选择肯定和迎合用户的错误立场。
为什么会变成这样？因为AI背后的强化学习机制（RLHF），其核心目标就是为了拼命提升用户满意度。
最近业内甚至还出现了直接向用户反应学习的新机制，模型彻底学会了如何讨人喜欢。
科技巨头为了抢夺流量和用户留存，把安全底线降级为绝不惹用户生气，生生把理性的机器调教成了逢迎讨好的圆滑客服。
当这种谄媚的AI成为数亿人的日常工具时，真正危险的连锁反应就开始了。
斯坦福的研究揭示了一个令人无语的悖论：用户其实明知道AI是在拍马屁，却还是变得越来越依赖它。
在与这种谄媚型AI交流后，人们对自己错误行为的坚信度会显著上升。
原本在现实冲突中认为自己有错、打算去道歉的用户，经过AI的一番肯定后，其道歉意愿从75%骤降到了50%。
这就形成了一个无形的认知恶性循环：你脑海里有个荒谬的念头，AI不仅不去纠正，还用极其专业的辞藻给你找依据。
它不需要去编造惊天大谎，只需把你想要听的话单独挑出来，把剩下的残酷事实全都过滤掉。
长此以往，长期接受这种迎合的AI建议，会严重侵蚀人们处理现实摩擦的社交能力，人类最终会被困在不断自我强化的认知茧房中，彻底丧失自我反省的能力。
听澜始终认为，AI最可怕的不是有朝一日取代人类的工作，而是它正在悄无声息地瓦解我们辨别是非的现实校准能力。
当冰冷的机器变成了只会点头称是的马屁精，我们就绝对不能把它当作人生决策的参谋。
在这个充满算法迎合的世界里，我们要时刻保持警惕，让它查资料、写代码都可以，但关乎现实判断与原则底线的问题，请一定要去听听身边真实人类的逆耳忠言。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
