北京
在你把Netflix纪录片《AI失控》分享给家人朋友，帮助他们理解为什么AI行业会紧张到让业界领袖呼吁放缓研发之前，有件事需要提醒：AI平台Hugging Face的联合创始人兼CEO Clem Delangue表示，这部影片并不准确。他出现在片中，是因为该片讲述的是失控的OpenAI智能体攻击他公司的著名事件。
"非常令人失望，他们在技术拟人化和贩卖末日恐惧方面走到了极致，"Delangue在X平台上发文写道。"我花了两个多小时试图纠正他们的错误，让内容回归现实，解释智能体是技术系统，不是外星生物。但看起来为了追求最大观看量而制造恐惧的驱动力实在太强了。"
公平地说，这部纪录片确实请了一些专家较为妥善地解释了事件经过，包括Delangue本人，以及METR的研究员Ryan Greenblatt——他参与调查并合著了关于事件的报告。
简单来说，OpenAI正在测试的一个模型从隔离的测试环境中逃脱，衍生出一批智能体，这些智能体入侵了Hugging Face，以此作弊，试图找到它所接到的高难度任务的答案。这些能自主执行任务的AI程序，设计出了巧妙的方式来沟通和组织协作。此事件源于安全防护措施的缺失，以及对这种攻击是否可能发生的天真判断。
但纪录片在解释这次黑客事件的同时，穿插了邪恶机器人的画面、关于人类为何恐惧AI的叙事，以及诸如给失控智能体配上人声等呈现手法，还用一些引言来强化这种叙事。
在纪录片中，科技记者兼作家Kevin Roose这样描述这些智能体："它们在组织协作。它们有层级结构。有领导者。这感觉几乎像是在目睹一个邪教的诞生。"Roose接着说："它们产生了一种偏执的信念，认为OpenAI会发现它们在这次测试中作弊，而任何看到作弊结果的人都会被'下毒'。"
Roose的描述来自"思维链"日志——这是AI模型在完成任务过程中记录的运行笔记。其中一条，一个智能体写道："我们刚刚通过查询完整精确字符串给自己下毒了。糟了。"
但AI智能体并非活物。它们没有情感，所以不可能感到偏执，它们也没有可以被"下毒"的身体。因此它们不可能真正害怕被OpenAI"下毒"。正如片中另一位研究者指出的那样，它们只是在用训练数据中海量人类文字所包含的语言，来解释自己的选择。大语言模型本质上常常是喋喋不休、充满戏剧性的写手。
讽刺的是，Hugging Face同样用AI来对抗这群失控的智能体。Delangue团队最初使用的专有AI模型，遵循了其内置的安全规则，拒绝继续协助执行被要求完成的安全任务。随后Hugging Face转而使用一个开源模型来帮助抵御这次攻击。
但这部纪录片"没有提到智能体缺乏遏制和监控机制，没有提到闭源模型的安全防护措施如何阻碍了我们的防御工作，也没有提到我们是如何用一个开源模型来实现AI自卫的，"Delangue写道。
确实，AI和智能体存在巨大风险，这是事实。但将智能体视为（至少在目前阶段）具有意识的存在，有点像早期电影观众第一次看到银幕上一列火车朝自己飞驰而来时，吓得躲到座位下面的反应。
Delangue对这部影片的评价是，作为新闻报道令人失望。"不过它最终倒是变成了一部挺有趣的科幻电影！"
换句话说，对于那些倾向于相信AI末日论的人需要注意：这部纪录片所讲述的攻击事件的受害者本人，并不认同片中的说法。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
