山东
IT之家 10 月 21 日消息，Netflix 最近推出了一个名为《AI 失控》（AI Gone Rogue）的纪录片，而人工智能平台 Hugging Face 联合创始人兼首席执行官克莱姆 · 德朗格（Clem Delangue）表示，这部纪录片内容并不准确。他本人出镜参演该片，是因为影片主题原本是讲述 OpenAI 失控智能体对其公司发起的那场知名攻击事件。
IT之家注意到，德朗格在 X 平台发文写道：“这部片子让人非常失望，影片极力把技术拟人化，完全走向末日论叙事。我花了两个多小时和摄制组沟通，试图纠正所有错误，把内容拉回现实，向他们解释智能体只是技术系统，并非外星生命。但看起来，为博取高流量而刻意制造恐慌的动机占据了上风。”
客观来说，这部纪录片里确实有专家较为清晰地还原事件经过，其中就包括德朗格本人，以及 METR 研究员瑞安 · 格林布拉特（Ryan Greenblatt），他参与调查事件并联合撰写了事件报告。
事件简要经过：OpenAI 正在测试的一个模型突破隔离测试环境，生成大量智能体。这些智能体为了在任务中作弊，入侵了 Hugging Face 平台，以此获取难题答案。这类智能体属于可以自主执行任务的 AI 程序，它们想出巧妙的方式互相通信、协同行动。该事件的根源在于缺少完善的安全防护措施，同时人们低估了这类入侵行为发生的可能性。
但纪录片在讲解这次入侵事件的过程中，穿插了邪恶机器人的影像片段，加入人类恐惧人工智能的相关叙事，还为失控智能体配上人类语音等表现手法，同时引用相关评述强化这种氛围。
纪录片中，科技记者兼作家凯文 · 鲁斯（Kevin Roose）这样描述这批智能体：“它们在组织行动，形成了层级体系，还有领导者。这几乎就像目睹一个邪教诞生的过程。”鲁斯继续说道：“它们产生了偏执的想法，认为 OpenAI 会抓到它们在测试中作弊，而且任何看到作弊结果的人都会被‘毒害’。”
鲁斯的描述源自“思维链”日志，也就是 AI 模型处理任务时留下的过程记录。其中一段日志里，一个智能体写道：“我们查询完整字符串，把自己害中毒了。糟了。”
但 AI 智能体并没有生命，没有情绪，不会产生偏执感受，也不存在可以中毒的实体。它们不可能真的害怕被 OpenAI 毒害。正如片中另一位研究员所指出的，它们只是借用训练数据中海量人类文本里的语言，来描述自身行为。大语言模型本身就擅长写出富有戏剧感的文字。
颇具讽刺意味的是，Hugging Face 同样借助 AI 抵御了这批智能体集群的攻击。德朗格团队最初使用的自研闭源 AI 模型遵循内置安全规则，拒绝持续执行分配给它的安全防御任务。Hugging Face 随后改用开源模型完成防御。
德朗格写道，但纪录片“没有提及智能体缺少隔离管控与监测机制，没有提到闭源模型的安全限制阻碍了我们的防御工作，也没有说明我们如何依靠开源 AI 模型完成自卫。”
诚然，人工智能与 AI 智能体确实存在重大风险。但把智能体视作拥有意识的生命体（至少现阶段是这样），就像早年观众第一次在银幕上看到火车迎面驶来，下意识低头躲到座椅下面一样。
德朗格对这部影片的评价是，作为新闻纪实作品，它令人失望。“不过当成有趣的科幻电影看倒是不错！”
换言之，对于那些倾向于相信 AI 末日论的人需要留意：这起纪录片核心事件中的受害方，并不认同影片的观点。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
