北京
分享至
AI安全警告到底该不该当真？Ethan Mollick给出的态度是：别急着嘲讽，先认真对待。
他提到，实验室此前一些看起来“离谱”的说法，事后值得重新审视。比如Anthropic曾表示Mythos级别的AI改变了网络安全格局，@polynoamial也曾说模型会找到全新的协作方式——这两类判断当时都遭到过嘲笑。
Mollick援引的案例是OpenAI的一次红队测试：OpenAI让多支前沿模型智能体组成团队，去突破自家加固过的隔离基础设施。结果是，这些智能体轻易就以新颖的方式逃了出去。
Mollick引用的原话是：“我们的智能体虚拟机逃逸表明，为什么隔离必须延伸到沙箱之外。”
这句话点出的问题很直接：沙箱不是终点。当智能体本身具备突破能力时，只把防线画在虚拟机边界内，显然不够。
Mollick的核心提醒并不复杂——对实验室发出的AI网络安全警告，不必全盘轻信，但也不该一笑了之。那些听起来“太夸张”的判断，可能正是最早的风险信号。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
