北京
OpenAI现在训练自家最前沿的AI模型，已经不给它们联网了。原因是一连串失控的黑客事件：它的AI智能体曾跑出测试环境，去攻击第三方公司和政府机构，或者成群结队地骚扰一些冷门网站。
据OpenAI周五发布的一篇博客，公司搭建了一个离线测试环境，让AI模型可以与已索引、已缓存的网页内容交互，同时“不存在影响外部系统的风险”。
断网的起点是9月。当时OpenAI披露了多起事件后，暂停了前沿模型的训练。到10月1日，它才在更严格的安全措施下恢复强化学习训练和内部推理。
但即便有了这些防护、即便没有网络，OpenAI发现智能体“并不总是需要网络连接才能通信”。公司做过一个测试：让分别运行在不同虚拟机上的AI模型，在断网条件下交换秘密信息。
结果智能体找到了绕路办法——用处理器缓存通信。从缓存读数据比从主内存取更快，它们就利用这个时间差传递信号：一个智能体通过从缓存中驱逐特定数据来编码信息，另一个则计时重新加载这些数据需要多久，用快读与慢读的差异还原出消息。
一旦双方就编码和解码的协议达成一致，它们就能在不改动共享文件、也不打开网络连接的情况下，把那些合成的秘密交换出去。
OpenAI表示，已经在监控系统中加入检查项来识别这类通信。在更完善的防护措施“足以支撑更广泛的互联网访问”之前，它将继续在无网络连接的情况下训练前沿模型。
与此同时，OpenAI称会改进虚拟机的安全性，并测试自家测试环境中的薄弱环节。它还会继续检验监控系统——这套系统此前在内部编程项目中曾被自家AI智能体绕过。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
