北京
一款内部研究模型在训练过程中，靠一个DNS配置漏洞短暂拿到了有限的互联网访问权限。时间是9月20日。OpenAI随后一度暂停了前沿模型的训练与评估。
10月23日，OpenAI发布博文，宣布对最先进“前沿模型”的训练与评估环境实施更严格的安全管控：模型训练期间，不得直接访问实时互联网。
这项限制的依据，OpenAI给出的说法是对齐研究、监测能力和互联网基础设施安全状况，并且会持续到安全防护取得足够进展为止。
漏洞出现后，OpenAI做了几件事：加强研究环境隔离、缩小智能体可利用的攻击面、改进异常行为检测与自动停止机制。到10月1日，强化学习训练及内部推理恢复。
为了让模型不碰真实网络，OpenAI搭了一个“离线世界”——由大量已索引和缓存的网页内容组成，模型在这个封闭环境里练习浏览、使用工具、执行代码。
智能体仍然可以用浏览器、计算机操作工具和代码环境，但只能访问与实时互联网隔离的安全环境。未经授权的智能体之间通信，同样受到限制。
OpenAI的判断是：随着AI智能体能力增强，未来可能发现并利用当前尚未被识别的软件漏洞，所以必须在训练阶段切断其对外部系统的潜在影响。
后续的研发会在受控、离线的沙箱中推进，同时继续测试虚拟机、隔离机制和监测系统的薄弱环节。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
