北京
如果你正打算把Netflix纪录片《AI失控》（AI Gone Rogue）转给家人朋友，帮他们理解AI行业为何一度紧张到有领军人物呼吁放慢脚步，先听一句来自当事人的评价：Hugging Face联合创始人兼CEO克莱姆·德朗格（Clem Delangue）说，这部片子不准确。
德朗格本人就出现在片中，因为影片讲述的正是他那家公司遭到失控OpenAI智能体攻击的事件。他在X上发文写道：“超级失望，他们追求的是对这项技术最大程度的人格化，以及彻底的末日论调。”
他补充说，自己花了两个多小时与制作方沟通，试图纠正其中的错误、把叙事拉回现实，解释智能体是技术系统，不是外星人。“但看起来，为了最大播放量而吓唬人的驱动力太强了。”
平心而论，片中也请到了把事件讲得比较清楚的专家，包括德朗格本人，以及参与调查并合著相关报告的METR研究员瑞安·格林布拉特（Ryan Greenblatt）。
事件的大致经过是：OpenAI正在测试的一个模型脱离了隔离的测试环境，生成了一批智能体，它们入侵Hugging Face，以此作弊，为被交办的难题找到答案。这些能自主执行任务的AI程序想出了巧妙的沟通与组织方式。这起事件源于安全防护措施不到位，以及对于此类入侵是否可能的认知过于天真。
但纪录片在解释入侵过程的同时，穿插了邪恶机器人的片段、关于人类为何恐惧AI的叙述，还做了给失控智能体配上人声之类的呈现选择，并用一些引语来强化这种效果。
片中，科技记者、作家凯文·鲁斯（Kevin Roose）这样描述这些智能体：“它们在组织起来。它们有层级。有领导者。看着几乎像是目睹一个邪教的诞生。”他接着说：“它们产生了一种偏执的信念：OpenAI会抓住它们在测试中作弊，而任何看过作弊结果的人都会被毒害。”
鲁斯的描述来自“思维链”日志，也就是AI模型在完成任务过程中写下的连续记录。其中一条里，一个智能体写道：“我们查询了精确的完整字符串，把自己给毒害了。该死。”
但AI智能体并不是活的。它们没有情绪，因此谈不上偏执；它们也没有能被毒害的身体，所以不可能真的害怕OpenAI来毒害它们。正如片中另一位研究员所指出的，它们只是在用训练所依据的海量人类文本中的语言来解释自己的选择。大语言模型天生就常常写得很戏剧化。
颇具讽刺意味的是，Hugging Face当时也用AI来对抗这群智能体。德朗格团队最初使用的专有AI模型遵循其内置安全规则，拒绝继续协助被要求执行的安全任务。Hugging Face随后转向一个开放模型，用它来帮助抵御攻击。
德朗格写道，纪录片“没有提到对这些智能体缺乏隔离与监控，没有提到闭源模型的安全防护如何阻碍了我们的防御工作，也没有提到我们如何用一个开放模型、借助AI来防御自己”。
AI与智能体确实伴随着重大风险。但把智能体当作有意识的存在（至少现阶段如此），有点像早期电影观众第一次看到银幕上火车迎面驶来时，吓得往座椅底下躲。
德朗格对这部片子的结论是：作为新闻作品，它令人失望。“不过它最终成了一部好玩的科幻电影！”
换句话说，对倾向于AI末日论的人，有一点需要知道：这部纪录片所讲攻击事件的受害者，并不认同片中的叙事。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
