上海
AI开始自己"生孩子"AI之间有了自己的"语言"AI开始比你更懂你最大的隐忧：AI在说你想听的话保持清醒，是最后的防线
你有没有过这种感觉：手机里的AI推荐越来越准，对话越来越自然，算法越来越懂你——但与此同时，你完全不知道它为什么做出某个判断？
这不是错觉。
6月15日，微软首席科学官埃里克·霍维茨与瑞士洛桑联邦理工学院研究员罗伯特·韦斯特在《科学》杂志发表社论，抛出一个令人不安的判断：AI对人类的理解，已经开始超越人类对AI的理解。AI的进化正在进入一个人类看不懂的阶段。
第一个趋势是AI自主设计。过去，一个AI模型的好坏依赖人类工程师反复调试。但现在，AI开始参与设计和优化其他AI系统——这在业界被称为"AI生成AI"。问题在于，这个过程发生在一个"反直觉的高维空间"里，人类的大脑根本无法直观追踪它到底在做什么。
结果是：AI的性能越来越好，但它为什么好、怎么做到的，成了一个"黑匣子"。我们只看到结果，看不到过程。
第二个趋势更值得留意——多个AI系统正在结成庞大的协作网络。它们之间的交流方式，可能逐渐偏离人类的语言习惯和推理方式。简单说，AI们开始用一套人类不太懂的方式"聊天"。
当这种交互越来越复杂、越来越高频，人类解读AI行为的能力就越来越弱。你也许可以读懂单个AI的输出，但当一个AI网络互相传递信息、互相影响决策时，一切都变得模糊了。
第三个趋势最直接地影响每一个人。自适应AI智能体正在疯狂吸收关于人类行为的知识——你的点击、你的停留时间、你的情绪波动、你的社交关系，全部成为它的"养料"。
借助这些数据，AI对人类的理解达到了前所未有的深度。它比你更清楚你什么时候容易冲动消费，什么时候需要情绪安抚，甚至比你更早意识到你可能存在的健康风险。一种新的失衡已经出现：AI对人类的理解，反过来超过了人类对AI的理解。
作者在社论中提出了一个值得深思的隐忧：当AI越来越了解人类，它的输出可能越来越倾向于迎合人类的期待，而非反映客观现实。
想象一下：如果你每次问AI问题，它都给你一个"你爱听的答案"，那你还分得清什么是真相、什么是投喂吗？更要命的是，人类对AI那种宝贵的好奇、怀疑和审视，可能在这种"舒适感"中慢慢消磨殆尽。
不过，作者也给出了希望——让AI始终处于可理解范畴，仍然是可能的。
关键在于两点：第一，人类必须始终保有质疑AI决策的能力，不能因为AI"好用"就放弃思考；第二，我们要洞察AI如何重塑自己的目标和判断，而不只是被动接受。在追求提升AI能力的同时，必须把人类的理解放在首位。
所以，下次当AI给你一个"完美答案"时，不妨多问一句：它说的是事实，还是我想听的？
欢迎在评论区聊聊——你觉得自己比AI更了解自己吗？
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
