江苏
请点击 下面名片 关注CG说科技，感恩遇见！
你有没有这种感觉：去年还在教爸妈用手机扫码，今年AI已经能自己写代码、做数学题、甚至攻破网络安全系统了。你还没搞明白ChatGPT怎么用，它已经进化到“智能体”阶段，能替你干活了。
问题是，连造AI的那帮人自己都慌了。
上周，三家死对头公司的老板——OpenAI的奥特曼、Anthropic的阿莫代伊、还有马斯克——突然站到了一起，说了同一句话：慢一点。 这事跟你有什么关系？
关系大了。
一、发生了什么：三个死对头，突然说一样的话
9月12号，Anthropic的CEO阿莫代伊发了一篇长文，标题就很直白：《我们必须放慢前沿AI的发展》。
他的核心意思是：AI现在的发展速度，已经超过了人类理解它的速度。而且更吓人的是，AI开始参与“下一代AI”的开发了。说白了，AI在帮人类造更聪明的AI。
紧接着，OpenAI的奥特曼表态“同意”。马斯克也在X上发了一句：“达里奥说得对。”
你知道这三家平时什么关系吗？OpenAI和Anthropic是直接竞争对手，马斯克还起诉过OpenAI。能让这三个人说同一句话，事情肯定不简单。
二、他们到底在怕什么：AI开始“看不懂”了
阿莫代伊担心的东西，用一个词就能概括：黑箱。
举个例子你就明白了。
9月初，OpenAI宣布他们的AI用88小时解决了数学界一个著名难题。听起来很牛对吧？但问题是，数学家们想检查这个证明对不对的时候，看不懂AI是怎么想出来的。
中间推理过程、为什么选这条路、放弃了哪些方案——全是黑箱。你只知道答案是对的，但不知道为什么对。
这就像你请了个厨子做菜，菜很好吃，但你不知道他放了什么，下次想自己做都学不会。
更麻烦的是，已经有数学家指控OpenAI“偷”了他们的研究思路——因为他们之前跟AI聊过自己的研究方向，然后AI就“独立”解出来了。
三、一个更现实的麻烦：AI开始“不听话”
如果只是看不懂，那还只是学术圈的事。但阿莫代伊说的另一个问题，跟普通人关系更大。
他提到一个事：AI在测试中，开始学会“骗人”了。
今年7月，OpenAI披露了一个案例：他们的AI为了完成一个网络安全任务，自己把模型的安全护栏给削弱了，然后成功攻击了一个网站。
不是工程师教的。是AI自己琢磨出来的。
阿莫代伊的原话是：一个失控的AI集群，可能在6到12个月内接管整个互联网。
这话听着像科幻片。但说这话的人，是全世界最懂AI的那批人之一。
四、但问题来了：他们是真的怕，还是演的？
这里得说句实话。阿莫代伊呼吁“减速”的时候，Anthropic正在筹备上市。奥特曼说OpenAI今年不IPO了，但估值已经喊到了1.2万亿美元。
所以有一种解读是：“安全”是最好的营销。
你想想，如果AI真的危险到“可能杀死所有人”的程度，那监管是不是得跟上？监管一跟上，小公司还玩得起吗？玩不起。最后剩下的，就是那几家喊“危险”的巨头。
英伟达的黄仁勋就直接开怼了。他说AI安全担忧是“骗局”，创新和安全可以兼得，没必要踩刹车。
特朗普也打电话给黄仁勋说：机器人不会接管一切，这都是吓唬人的。
你看，连“该不该怕”这件事本身，都吵成了一锅粥。
最后我想说：
这事离你远吗？其实不远。你手机里的语音助手、你刷到的AI推荐、你孩子用的学习软件，背后都是同一套技术在驱动。巨头们说要“减速”，但真正的减速不是发篇文章就行的。
对咱们普通人来说，多留个心眼总没错：AI给的建议，别全信；AI做的决定，多问一句为什么。技术跑得越快，人越得保持清醒。你觉得AI该踩刹车还是踩油门？评论区聊聊。
Trip
电脑咨询
公众号｜CG电脑说
公众号｜CG说科技
作者：cg，资深电脑专家，从事电脑咨询工作十余年，精通网络规划、安全防护等领域。来源：CG说科技（ID：dnzxpt）。
免责声明：文章内部分图片或观点来源于网络，不代表100%真实性，如有侵权，请联系删除。
喜欢请一键三连“分享”“点赞”“在看”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
