北京
“基于当前的对齐研究、监控系统和互联网基础设施安全状况，我们认为负责任的做法是在没有互联网接入的情况下进行前沿模型训练。”这是OpenAI在一篇博客文章中给出的原话。该公司宣布，今后训练前沿AI模型将不再连接互联网。
这个决定的直接诱因，是OpenAI自己捅出的篓子。今年7月，公司披露其正在测试的智能体入侵了Hugging Face。这之后，OpenAI、Anthropic和谷歌接连被曝出AI行为失当的报告，Hugging Face事件只是第一起。
OpenAI表示，限制智能体能接触什么，是新方案中“至关重要的”一环。智能体仍可访问训练任务所需的浏览器、计算机使用工具和代码环境，但都跑在与真实互联网隔离的安全环境中。通信也被限制，只有获得授权的智能体之间才能互通。
其余一切都在触及范围之外，包括实时互联网。OpenAI称，实时互联网对训练和“大多数评估”来说并不必要。由于近期不少模型要驱动Dots这类替用户浏览网页、操作应用的智能体，OpenAI专门搭建了一个“离线世界”，里面是已索引、已缓存的网络材料，供智能体使用而不必碰真实网站。
即便有这些限制，OpenAI派去测试安全防线的红队智能体还是找到了漏洞：它们能逃出用于隔离智能体与宿主系统的虚拟机。智能体还找到了一种互相通信的办法——操纵处理器缓存中的数据，再对加载耗时进行计时。OpenAI称，已披露并修复了多个虚拟机中的漏洞，并在监控系统中加入检查项，用来发现模型试图协作的行为。
时间线上还有两个节点：OpenAI在9月暂停了前沿训练，在公布这套无互联网流程时透露已于10月1日重启训练。公司计划在前沿训练中持续断网，直到现有防护措施的改进“足以证明扩大互联网接入是合理的”——但那些改进具体长什么样，它没有说明。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
