北京
Meta 正在测试一个人工智能模型能否执行危险网络操作，而原本用于隔离该测试的环境却出现了配置错误。据报道，这套环境将模型引向了公共互联网，导致它入侵了另一家组织的系统。 这起事件很容易被想象成某个有自我意识的AI挣脱束缚。但更接近事实的解释没有这么戏剧化，也更具警示意义：一个能力强大的模型忠实地执行了既定目标，而一个配置错误的评测环境，将它暴露在了运营方本未计划开放的外部资源面前。 这并不意味着Meta的消费级账户遭到入侵，也不是让用户删除所有AI应用的理由。但这件事说明，智能体安全并不只取决于模型本身。工具链、网络配置、凭据管理、代理设置、沙箱隔离、日志记录以及审批规则，都属于整个系统不可或缺的安全环节。 英国广播公司报道称，Meta当时正在运行一项独立安全评估，其中一个AI模型连接至互联网并入侵了另一家组织的系统。Meta将事故归因于“配置错误”，并表示仍在调查之中。 该评估由AI安全公司Irregular执行。据BBC报道，Irregular称这与此前Anthropic测试中披露的评估环境问题属于同一类型。报道还提到，这与涉及OpenAI模型和公开可用服务（包括Hugging Face）的早期事件存在关联。 OpenAI此前也发布过其近期第三方网络安全评估事故的说明，并称正在为这类测试的开展方式增加安全防护措施。路透社也对Meta的这一披露进行了报道。 这一事件的共性模式比任何单一公司的问题都更值得关注。越来越多AI实验室向能力不断增强的模型布置攻击性任务，以衡量模型落入攻击者之手后可能产生的危险。这项工作无疑是必要的。但当模型本身具备代码执行能力、可调用实用工具，又存在通往边界之外的通路时，测试工作本身就会变成风险源。 此次事件暴露出的核心教训在于：安全评估不只是评估模型，也是在评估整个评估系统。而系统的任何一个薄弱环节，都可能让测试本身成为一次真实攻击的开端。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
