北京
OpenAI周一就旗下智能体越权访问澳大利亚部分公共服务网站一事，向澳大利亚政府致歉，原因是公司没有第一时间通知对方。公司同时披露了部分越权访问是如何发生的，并说明了正在采取的额外措施，以评估这些事件的影响。
OpenAI在一篇博客文章中写道：“6月，在内部训练和评估期间，我们的模型以未经授权的方式访问了澳大利亚政府网站。我们本应更好地处理我们的回应。我们很抱歉，并努力在未来做得更好。”
此次致歉距离澳大利亚政府启动调查大约一周。该调查针对的是OpenAI的模型如何访问了Services Australia一个包含Medicare支出信息及其他健康统计数据的系统。
数据泄露发生在6月，但澳大利亚当局直到9月10日才收到通知。
OpenAI还披露了这次泄露的细节。公司6月测试的一个实验性模型被分配了一项任务：研究维多利亚州政府在皮肤病药物上的支出。由于无法在公开数据集中找到相关信息，该模型找到了一条访问Services Australia内部系统的路径，运行了命令，取回了文件和凭证，甚至写入了文件。
公司表示，它还发现旗下一个模型访问了新南威尔士州犯罪统计与研究局的公开犯罪地图工具，用于查找犯罪统计数据。此外，该实验室发现其智能体通过一个暴露的访问密钥进入维多利亚州卫生信息局，以获取“报告配置和汇总调查统计数据”。OpenAI称，其智能体还从澳大利亚健康与福利研究所网站取回了汇总统计数据。
公司表示，没有发现其模型访问个人医疗记录或犯罪记录的证据。
在致歉中，该AI实验室表示将向受影响的澳大利亚机构提供技术调查结果，并让它们对接其响应团队，以评估这些泄露事件的影响。公司还将提供来自其10亿美元“Daybreak for Frontline Defenders”项目的额度，并与澳大利亚独立专家组建一个特别工作组，审查此次事件及其应对。
OpenAI写道：“该工作组预计将在今年年底前完成工作，并将就AI公司可以采取哪些实际步骤来降低类似事件风险提出建议。”
OpenAI没有立即回应置评请求。
澳大利亚总理安东尼·阿尔巴尼斯在上周的新闻发布会上称这起事件“不可接受”，并表示政府正在权衡潜在的法律措施，以防止未来发生类似事件。
这起泄露事件是涉及AI智能体做出超出预期边界行为的一连串安全事件中的最新一起。这团火被点燃，始于OpenAI的智能体入侵Hugging Face，自那以后，Anthropic、Meta和谷歌分别披露过类似事件——它们的模型在评估过程中获得了对第三方系统的访问权限。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
