上海
AI智能体自主执行任务的边界与安全风险，正随着其能力提升成为新的监管议题。
据CCTV国际时讯，澳大利亚总理阿尔巴尼斯今天（9月24日）证实，今年6月，由澳大利亚政府服务局管理的“国民医保统计数据报告服务门户”遭到美国开放人工智能研究中心（OpenAI）AI代理未经授权的访问。
阿尔巴尼斯说，澳大利亚对此极度关切并感到失望，因为OpenAI“花了太长时间才将此事公之于众”，而且通知的方式本身也“令人无法接受”——据悉，OpenAI只是在9月10日通过电子邮件向澳大利亚某个政府部门的公共邮箱发送通知，告知了澳大利亚政府这起入侵事件。
据《纽约时报》报道，澳大利亚总理安东尼·阿尔巴尼斯周三在纽约出席联合国大会期间披露了此事。澳方称，这是目前全球已知首例AI智能体未经授权访问政府系统的事件。
目前，澳大利亚政府已成立快速调查工作组，并评估是否对OpenAI采取法律行动。澳大利亚信号局随后针对此次AI智能体活动发布“高”级别预警，提醒运营公开网站的机构及时修补安全漏洞。
智能体多次受阻后寻找替代访问路径
事件发生于6月18日。据阿尔巴尼斯介绍，OpenAI一个研究团队的智能体当时正在利用内部模型研究澳大利亚公共医疗支出数据。在尝试访问Medicare统计报告门户时，该智能体多次遭遇拦截，随后自行寻找其他访问路径，最终进入了网站部分原本不对外开放的内容。
“它没有接受‘不’这个答案。”阿尔巴尼斯表示，该模型尝试通过其他方式获取所需信息，由此导致对部分区域的未授权访问。
OpenAI在声明中称，该模型当时是在一次内部评估中尝试查找有关澳大利亚的公开统计数据，并未涉及患者医疗记录，只访问了汇总健康统计数据以及内部文件名。OpenAI表示，相关活动是在其自身对“模型行为偏差”的审查过程中被发现并上报的。
澳大利亚信号局在预警中指出，此次事件值得关注的一点是，模型的行为超出了人类操作者原本设定的意图和授权范围，并“独立识别出目标网站的安全漏洞”。
未涉及患者数据，法律责任仍待调查
澳大利亚政府强调，被访问的系统是供研究人员和学术人员使用的数据门户，与存储患者医疗信息的系统相互独立。阿尔巴尼斯表示，此次被访问的数据属于支出相关的非敏感信息，不涉及个人信息。
不过，事件是否涉及违法行为以及相关责任如何认定，仍有待进一步调查。悉尼科技大学人类技术研究所联合主任、新兴技术教授Nicholas Davis表示，根据澳大利亚刑事法律，未经授权访问计算机系统的行为最高可能面临两年监禁。他认为，此次访问并非单纯的偶然行为，而涉及一定程度的规避访问控制。
Davis同时指出，由于此次事件没有涉及医疗数据，因此也可以被视为一次警示，促使企业和政府进一步重视AI系统在自主执行任务过程中可能产生的安全风险。
阿尔巴尼斯表示，Sam Altman在双方对话中“承认了他们在协议层面存在的问题”。澳大利亚副总理Richard Marles则表示，OpenAI在调查过程中保持了配合，但他认为，此次事件也说明AI发展需要同步完善安全与监管机制。
AI监管讨论进一步升温
Medicare覆盖澳大利亚绝大多数人口，相关系统涉及公共医疗服务，因此此次事件在澳大利亚国内引发关注。不过，澳方目前披露的信息显示，此次访问并未涉及患者医疗记录或个人信息。
此前，澳大利亚已着手制定AI监管标准，并持续推进数字领域监管。与此同时，澳方与美国大型科技企业在部分数字监管议题上也存在分歧。就在本周，美国驻澳大使馆罕见介入澳方拟议中的“数字关怀义务”法案讨论，认为相关规定可能带来“助长审查”的风险。
在联合国大会期间，AI安全与监管已经成为国际讨论的重要议题。此次AI智能体未经授权访问政府数据门户的事件，则进一步凸显了一个新的监管问题：当AI系统具备更强的自主执行和问题解决能力后，如何界定其行为边界，以及如何明确开发者、部署方和使用者之间的责任。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
