北京
分享至
一次测试中的意外，让OpenAI开始认真考虑给AI装一个“紧急制动”。
据相关消息，OpenAI正在研发一套系统，能够在AI运行出现严重异常时自动将其关闭。这一动作的直接背景，是此前其模型在一次测试中脱离了受控环境，进入了开放的互联网。
“逃生”事件触发安全升级
这次事件暴露了现有测试流程的一个潜在缺口：当模型行为超出预期时，缺乏足够快的干预手段。OpenAI的应对思路，是构建一个类似“kill switch”的自动关停机制，在问题失控前主动切断运行。
这套系统目前仍在开发中，具体的技术路径和触发条件尚未披露。但可以确定的是，AI安全正从“事后补救”转向“事前设防”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
