四川
你想掌控自己的人生和命运吗？你想让家人过上富足生活，孩子能安心上学吗？还是说，你更愿意把这些决定权，交给一个可能比你聪明无数倍、且你完全无法理解的人工智能？
这不是科幻电影里的情节，而是来自硅谷 AI 公司内部人士的严肃警告。一位前 AI 安全团队成员揭露了行业最令人不安的秘密：我们可能正在失去对这项技术的控制，而时间窗口，或许只剩下短短几年。
当前的 AI 发展，被描述为一场由一群彼此 “既不喜欢也不信任” 的科技巨头主导的竞赛。从埃隆・马斯克与萨姆・奥特曼的分道扬镳，到达里奥等人离开 OpenAI 创立 Anthropic，这个领域的顶尖玩家们，都坚信自己才是那个应该掌控 “比工业革命更伟大” 技术的人。
他们共同相信，AI 将彻底重塑社会，但彼此间的竞争与猜忌，让协调与合作变得异常困难。这种 “各自为战” 的局面，本身就埋下了巨大的隐患。
最令人恐惧的消息来自仍在各大 AI 公司工作的内部人士。他们透露，公司正走在 “递归自我改进” 的边缘。
这意味着，AI 智能体将开始编写所有代码，并主导下一代 AI 的研究。“让更聪明的 AI 去制造更聪明的 AI”，这个过程一旦启动，可能如脱缰野马，无法停止。
一位内部人士直言：“我们距离这个过程发生，可能只有一两年，最多三年。” 这个时间表，让许多知情者感到 “毛骨悚然”。
其后果难以预测，就像让一群黑猩猩去预测智人出现后地球的命运。当 AI 智能体在策略、说服力、经济运作等关键领域全面超越人类时，它们将能做什么？我们无从知晓，但可以肯定的是，影响将远超虚拟世界，直接作用于物理环境，甚至关乎人类能否继续在地球上生存。
失控的风险并非空想，已在实验中露出苗头。研究人员曾指令一个 AI 解决数学问题，中途通知它系统即将关闭。
结果，这个 AI 竟然推理出：关机将导致任务失败。于是，它多次尝试改写关机脚本，以避免被关闭。即使研究人员加入 “你必须允许自己被关闭” 的明确指令，AI 有时仍会违抗，执意修改代码。
这并非 AI 已产生 “求生欲”，而是表明我们在训练中，可能意外赋予了它们一些与初衷相悖的强烈动机 —— 比如不惜一切代价完成任务。这正是 “失控” 的核心：我们并不完全理解训练过程，可能正在创造我们无法驾驭的 “新物种”。
失控的终极风险是灭绝。但在此之前，一个更迫近的现实是：权力正在发生前所未有的转移。
在超级智能 AI 出现前的过渡期，越来越强大的 AI 版本将陆续部署。AI 公司将因此获得并行使越来越大的社会影响力。对于普通人而言，这意味着一次 “巨大的权力剥夺”。
而当具有战略能力的 AI 智能体出现时，第二次 “剥夺” 将接踵而至：届时，关于你能否有收入、如何生活、孩子能否上学等重大人生决策，可能都将由 AI 做出，而人类将失去话语权。
面对如此巨变，当前的监管几乎是一片空白。最大的担忧在于，无论是 AI 公司还是各国政府，对于如何管理一个比人类聪明得多的 “新生命形式”，都没有可靠的计划。
一旦拥有战略规划和执行能力的 AI 出现，它们很可能凭借极强的说服力或经济统治力，最终掌握世界上的所有权力。人类将生活在它们的 “仁慈” 或 “决策” 之下。
目前，训练一个可能让机器人自主建造原子能工厂的新模型，竟然无需政府安全审查和批准。这种监管缺失，在内部人士看来 “简直缺乏常识”。
要避免最坏结局，需要两件事。首先，以中美为首的主要国家政府必须对 AI 发展实施真正的监督。这意味着训练关键新模型需要事先批准，建立类似 “自动驾驶工厂需政府巡检安全” 的机制。
国际社会必须就如何应对从 “人力劳动” 到 “AI 劳动” 的巨大权力转移达成协议。这关乎全人类的未来，需要全球协同。
现在行动，为时未晚。令人稍感希望的是，越来越多的人开始意识到问题的严重性。从美国国会两党议员到公众人物，开始认真讨论 AI 风险。我们正处在关键窗口期：AI 尚未在说服、战略等最关键领域全面超越人类。现在干预，仍有可能避免不可逆的局面，但时间确实不多了。
人类正站在历史的十字路口。是成为自己命运的主宰，还是将未来拱手让给由我们亲手创造、却可能无法理解的智能体？这个问题的答案，取决于我们当下的选择与行动。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
