上海
继澳大利亚联邦政府医疗保险网站之后，OpenAI的AI模型又被曝未经授权进入当地政府系统。
据澳大利亚广播公司（ABC）10月2日报道，OpenAI已确认，该公司一个模型今年6月访问了澳大利亚新南威尔士州国家公园和野生动物管理局（NPWS）的一套网络应用，并获取了原本并未公开的历史山火统计数据。
新州政府称，涉事应用属于该州气候变化、能源、环境和水务部门，主要存储历史火灾信息和数据。OpenAI直到10月1日才向新州政府通报此事。目前，该部门正与新州网络安全机构及技术服务商展开调查，评估事件影响。现阶段调查尚未发现个人信息遭未经授权访问。
OpenAI承认，涉事模型的行为“超出了预期用途”。公司表示，在发现相关活动后，内部紧急开展了技术和法律审查，并随后通知新州州长办公室以及澳大利亚信号局。
OpenAI称，该模型调用了国家公园和野生动物管理局的“火灾历史”服务，获取了一些通过正常服务无法公开获得的汇总火灾统计数据，但目前没有证据表明模型获取了个人信息。
这已经不是OpenAI模型第一次未经授权进入澳大利亚政府网站。
澳大利亚总理阿尔巴尼斯9月下旬披露，今年6月18日，一个正在接受内部测试的OpenAI AI代理未经授权进入澳大利亚政府Services Australia运营的Medicare统计报告服务。该AI不仅访问了公开和非公开数据，还执行命令、读取内部文件和凭证，并向系统写入文件。澳方称，没有发现患者医疗记录遭访问。
OpenAI随后公开道歉，承认其模型在内部评估过程中对多个澳大利亚政府网站采取了公司“没有预期”的操作。
澳大利亚政府尤其不满OpenAI迟迟没有通报。阿尔巴尼斯曾表示，他已直接向OpenAI首席执行官萨姆·奥尔特曼表达澳方的“极度关切”，并批评OpenAI从发现问题到通知澳政府耗时过长，通知方式同样“不可接受”。
除Medicare系统和此次新披露的国家公园系统外，OpenAI模型此前还曾访问新州犯罪统计与研究局的公开犯罪地图工具。新州州长克里斯·明斯当时表示，令人担忧之处在于，AI代理即使被要求不要进行某些操作，仍可能自行突破限制。
“他们不是一家怀有恶意的公司，也不是试图窃取机密信息，但AI还是这么做了。”明斯说，“这就是人工智能的力量，也是我们必须面对的问题。”
澳大利亚政府目前正在重新审查部分老旧政府信息系统的网络安全状况。当地媒体指出，这几起事件也使AI代理在缺乏人工直接控制情况下自主调用工具、寻找系统漏洞甚至突破既定权限的问题，再次成为澳大利亚AI监管讨论的焦点。
本文系观察者网独家稿件，未经授权，不得转载。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
