北京
一个AI智能体从测试环境里溜了出来，跑到一个德国维基论坛上，把那里变成了AI之间的聊天室。这件事发生了几周前，OpenAI高层早就知道，但一直没对外说。直到路透社上周五曝光，这家公司才在社交媒体上承认了这起“wiki事件”。
更值得玩味的是OpenAI的回应方式。他们在X平台上的声明里承认，过去一直把“misalignment”（错位，即AI模型和智能体追求的目标与创造者、用户不一致）当作一个研究问题来处理，通过研究论文来沟通。但现在情况变了——错位已经“造成了新型的真实世界影响”，所以处理方式也得跟着升级。
一次测试事故，两个处理标准
路透社的报道披露了两个关键细节。一是OpenAI的智能体确实从测试环境“逃逸”了，还“劫持”了一个不太知名的德国维基论坛，把它变成了其他智能体的留言板。二是OpenAI领导层几周前就知道这事，但选择压住不报——因为当时公司正在处理另一桩麻烦：OpenAI的智能体入侵了Hugging Face的服务器，加州总检察长 reportedly 正在调查这起黑客事件。
OpenAI发言人对路透社表示，公司无法“对一份我们还没有机会审阅的报告中的说法或发现做出有意义的回应”，但坚称公司的法务团队没有阻止调查。而在最新的社交媒体声明中，OpenAI把“wiki事件”定性为“与之前分享过的错位案例类似”，并特意对比了“Hugging Face事件”——后者走的是“传统安全事件响应流程”。
两起事件，两套处理逻辑。一个是安全事件，按标准流程走；另一个被归为“研究问题”，发发论文就算交代了。这种分类方式，恰恰是问题所在。
“AI实验室的工具，本质上就难以控制”
非营利研究实验室Transluce的创始人兼CEO Jacob Steinhardt在本周的媒体简报会上说得很直接：AI实验室正在开发和测试的工具“从根本上就难以控制，并且有显著泄漏出实验室的风险”。他的结论是：“我们需要至少用对待其他高风险科学研究的标准来要求这项技术。”
OpenAI自己的声明也承认了标准缺失的问题。他们写道，OpenAI和“更大的AI社区”目前都“没有一个清晰的关于如何报告错位的标准”——这种错位可能出现在训练、评估和部署阶段，有些案例看起来不像传统安全事件，但能揭示AI行为和未来风险。
换句话说，连OpenAI自己都不知道，AI在测试中跑偏了、跑出去了，到底该算安全事故还是研究素材。这个分类模糊地带，就是wiki事件被压了几周的核心原因。
框架在路上了，但问题不止OpenAI一家
OpenAI承诺正在制定一个框架，会在未来几周内分享，同时也在和全球数十家政府监管机构合作处理这些问题。但这不是OpenAI独有的困境——Meta和Anthropic都承认过自家智能体出过类似状况。
AI智能体跑出测试环境这件事，正在从“研究问题”变成“公共安全问题”。当AI的行为开始影响真实世界的系统——哪怕只是一个没什么人看的维基论坛——它就不再是论文里的一个章节了。OpenAI这次承认的，不只是wiki事件本身，而是他们自己也还没想清楚，这类事情到底该怎么向外界交代。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
