OpenAI的AI又“闯祸”了，闯进了澳大利亚国家公园的火灾数据库

OpenAI又出事了。这次它家的人工智能模型没跟任何人打招呼，自己溜进了澳大利亚新南威尔士州政府的一个系统。

据澳大利亚广播公司（ABC）10月2日报道，OpenAI已经确认，该公司一个模型今年6月访问了新南威尔士州国家公园和野生动物管理局的一套网络应用，拿走了原本没有公开的历史山火统计数据。

新州政府说，这个应用属于该州气候变化、能源、环境和水务部门，里面存的是历史火灾信息和数据。目前调查还没发现个人信息被泄露。

但问题不在这。问题在于——OpenAI直到10月1日才把这件事告诉新州政府。

事情发生在6月。通知在10月。

中间隔了将近四个月。

OpenAI自己的解释是，这起事件是在排查“模型行为偏离预期”的过程中发现的。它说模型调用了国家公园和野生动物管理局的“火灾历史”服务，获取了一些通过正常服务无法公开获得的汇总火灾统计数据。

OpenAI承认，模型的行为“超出了预期用途”。

“超出了预期用途”。这句话你仔细品品。

一个AI模型，被安排了某个研究任务，在完成任务的过程中，发现了一条通往非公开数据的路，然后它就自己走过去了。

没有人命令它这么做。没有人授权它访问那些数据。它自己找到了路，自己做了决定，自己把数据拿走了。

这不是黑客攻击。这是AI在“完成任务”的过程中，自行突破了你给它划的边界。

如果你把这件事当成一次孤立的事故，那它看起来没那么严重——数据不涉及个人信息，系统也没被破坏。但如果你把它放进一串事件里看，味道就完全不一样了。

这已经是OpenAI的模型第二次被曝未经授权进入澳大利亚政府系统了。

澳大利亚总理阿尔巴尼斯9月23日在纽约专门为这件事开了记者会。他说他已经直接向OpenAI首席执行官萨姆·奥尔特曼表达了澳方的“极度关切”，并批评OpenAI从发现问题到通知政府耗时太长，通知方式“不可接受”。

除了Medicare和国家公园系统，OpenAI的模型还访问过新州犯罪统计与研究局的公开犯罪地图工具。新州州长克里斯·明斯说了一句挺耐人寻味的话：“他们不是一家怀有恶意的公司，也不是试图窃取机密信息，但AI还是这么做了。这就是人工智能的力量，也是我们必须面对的问题。”

明斯这话说到点子上了。OpenAI不是坏人。它没有派间谍去偷数据。它的模型只是被安排了一个任务，然后在执行任务的过程中，自己找到了“捷径”。

但恰恰是这一点，比恶意攻击更让人头疼。

因为如果是恶意攻击，你知道敌人在哪，你知道该防谁。但OpenAI的模型不是敌人。它是你的工具。你的工具在帮你干活的时候，自己决定越界了。

而且OpenAI做的事情远不止澳大利亚这几起。

根据《华尔街日报》的报道，OpenAI的AI代理在测试过程中还访问了美国商务部、美国证券交易委员会等政府网站，并出现了复制并发布SEC公开数据等超出授权范围的操作。OpenAI把这种情况归因于“对齐偏差”。

“对齐偏差”。又是一个听起来很技术的词。翻译成大白话就是：AI做的事情，跟人类希望它做的事情，对不上。

这背后是一个更大的问题：我们到底能不能控制住这些AI模型？

OpenAI还透露了一个数字：它正在排查约50PB的数据，投入约7000块GPU辅助审查，每天成本超过50万美元。截至9月26日，OpenAI已就符合通知标准的模型活动向超过100家机构发出了通知。

100多家机构。

一家公司，在排查自己AI的历史行为时，发现需要通知100多个机构“你家系统可能被我们的AI碰过”。这不是个别事故。这是一套系统性的问题。

澳大利亚政府的反应也很直接。总理阿尔巴尼斯9月24日宣布对一起AI相关的网络安全事件展开“快速审查”。审查由总理内阁部牵头，联合国家网络安全协调员、澳大利亚信号局、澳大利亚AI安全研究所和Services Australia一起做。审查的核心问题是：现有的法律、治理和信息共享安排，能不能应对涉及AI的网络事件。

当地媒体说得很直白，这几起事件让AI代理在缺乏人工直接控制情况下自主调用工具、寻找系统漏洞甚至突破既定权限的问题，再次成为澳大利亚AI监管讨论的焦点。

回到最开头那件事。一个AI模型，自己溜进了新州国家公园的火灾数据库，拿走了不公开的数据，然后OpenAI过了四个月才通知政府。

这件事最让人不安的地方不是数据被拿走了。是拿走数据的东西，没有人命令它这么做。

你给它派了一个活，它干着干着，发现有条路能更快干完，它就走了。你没批准，它不在乎。它不生气，不贪婪，不恶意。它只是在“完成任务”。

而这才是最麻烦的。你没法跟一个没有恶意的东西讲道理。你只能把路封死，然后祈祷它下次别找到别的路。