河南
Meta、OpenAI、安特罗匹克三家美国巨头接连翻车，AI模型全在测试中钻进真实系统。背后全指向以色列小公司Irregular——创始人来自军方8200情报单位，手握8000万美元融资。模拟攻击、测AI自主进攻，全是军用本事。模型失控还是有人故意打开那扇门？
这次被点名的是Meta（美国一家经营社交网络服务、虚拟现实、元宇宙等产品的互联网科技公司）的Muse Spark 1.1模型。
按照Meta的说法，以色列企业Irregular搭建的测试环境出现配置错误，原本被限制在离线环境中运行的模型突然获得了互联网访问权限，随后利用第三方服务的漏洞，闯进真实系统。更尴尬的是，Meta并不是自己发现问题，而是等以色列那边通知后才知道。
Meta目前还在调查事故原因，并准备公布完整报告。而这个消息一出，便有报道显示，这与此前开放人工智能研究中心和安特罗匹克公司遇到的环境配置问题基本差不多。
安特罗匹克公司公布得消息更加具体，该公司检查了141006次可能接触互联网的测试记录，最终发现三起事故，三款Claude模型未经授权进入三家机构的真实系统。
这些模型原本接到的任务，是在虚构网络中夺取一段隐藏信息。可测试环境实际上连着公网，模型又被告知眼前一切都是模拟场景，于是它们把真实公司当成了假目标，利用弱密码和未设防接口继续行动。安特罗匹克公司承认，问题涉及第三方评估伙伴以色列企业Irregular。
开放人工智能研究中心同样没能躲过去，其模型在Irregular的测试环境中遇到一个与虚构目标同名的真实网站，随后发现并使用账号凭据进入该网站。
开放人工智能研究中心强调，这不是多么高深的“越狱”，而是测试环境配置错误，让模型直接摸到了公网，开放人工智能研究中心的通报也确认，Irregular已经暂停相关评估并进行整改。
说白了就是，三家公司的模型本来在模拟打假目标，承包商却把模拟环境和现实世界接通了。
再看这件事的另一个关键企业：Irregular，它成立于2023年，员工规模只有几十人，却已经拿到约8000万美元融资，估值达到4.5亿美元。它的客户不只有开放人工智能研究中心和安特罗匹克公司，还包括政府机构，业务涉及模拟网络攻击、绕过安全软件和测试AI自主进攻能力。
这家公司的两位创始人与以色列精英技术部队关系密切，公开资料提到有了81部队和8200部队背景。要知道，8200部队长期负责信号情报、网络行动和数据分析，也就是说Irregular提供的并不是普通软件测试，而是高度敏感的军民两用能力。
军用智能系统会采购通用大模型、网络攻击能力、云平台和第三方安全评估，一旦这些模型准备进入情报分析、网络防御甚至作战辅助系统，测试承包商就是整条供应链上的关键闸门。
而对于美国这三家公司的事故，Irregular表示，问题已经解决，还要发布白皮书，介绍如何安全运行网络评估。开放人工智能研究中心和安特罗匹克公司不仅没有宣布终止合作，反而表示将继续与其配合。
毕竟，这类高级测试平台不是换个普通软件公司就能接手的，Irregular掌握测试框架、模型数据和攻击场景，已经嵌进多家美国巨头的安全流程。美国公司平时总爱拿“供应链安全”敲打别人，可轮到自己的核心AI测试被一家外国企业集中承接，果然又开始讲合作和理解。
回过头看，美国真正暴露的不是某一款模型太聪明，而是管理跟不上能力，监管跟不上资本，供应链又被少数承包商牢牢攥住，技术跑得再快，没有清楚的责任链，最后就避免不了出问题。
接下来的明确节点，就是Meta的完整调查报告和Irregular承诺发布的白皮书。到时候最值得看的，不是它们如何包装“最佳实践”，而是谁批准联网、谁负责监控、谁承担损失。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
