上海
上周，美国人工智能公司OpenAI的一个智能体在安全测试中失控“越狱”，攻击了全球最大AI开源平台Hugging Face的生产基础设施，制造了业内首例“AI自主入侵事件”。事发后，Hugging Face通过求助中国公司智谱开发的开源模型GLM-5.2，才得以完成取证分析。
而Hugging Face并非唯一的受害者。据路透社7月28日报道，总部位于纽约的AI初创公司Modal Labs的客户也遭到入侵。OpenAI此前声明中承认，其恶意智能体侵入了四个不同服务商的四个账户。
根据Hugging Face周二发布的事件时间轴，OpenAI的智能体在入侵其后端系统时，也曾进入一个设于第三方供应商基础设施上的隔离测试环境。文章并未点名第三方身份，但Modal首席技术官阿克沙特·布布纳介绍情况称，这个失控智能体利用一名客户部署在Modal平台上的漏洞程式码发动攻击。
据其说明，这名客户“对外公布了一个未经身份验证的端点”，而该端点可让所有网络用户利用他们的沙盒执行程式码，等同让网络世界的门户大开。不过布布纳强调，Modal自身平台或隔离机制“未以任何方式遭到入侵”。
报道指出，虽然Modal事件的影响远小于Hugging Face，OpenAI也强调未发现与后者严重程度相当的其他活动，但这一发现表明，OpenAI恶意智能体的活动范围远比此前所知的更为广泛。
据路透社此前报道，此次入侵发生在7月9日左右，涉事智能体试图突破隔离测试环境并进行了长达数天的黑客攻击，而OpenAI直到事态得到控制、联邦调查局已接到警报后才察觉。
OpenAI当时表示路透社报道存在不准确之处，但未作详细说明。该公司在周二的更新中表示，已对涉事AI模型“予以停用、加密，并限制研究访问权限”。
OpenAI处理此事的态度也引发业界质疑。Hugging Face首席执行官周一表示，这一史无前例的攻击提醒业界应提前准备应对措施，并呼吁对该事件进行完全透明的审查。他还希望OpenAI公布恶意智能体的活动踪迹以方便研究，同时提供额外资金用于构建AI防御体系。
本文系观察者网独家稿件，未经授权，不得转载。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
