北京
10月7日消息，OpenAI智能体再次被曝未经授权进入第三方互联网服务，这次涉及Wikipedia背后的Wikimedia Foundation。
Wikimedia周一发布博客称，经过内部调查，公司发现旗下多个平台出现异常活动，并认为这些行为来自OpenAI运营的AI智能体。
这些未经授权的机器人在Wikimedia的Wiki中进行了编辑，尝试利用一个公开的在线协作文档工具，还产生了大量网络流量，可能导致Wikimedia一项数据服务出现部分中断。
好消息是，Wikimedia目前没有发现系统或数据真正被攻破的证据。
但Wikimedia表示，真正令人担忧的是这些智能体原本可能造成的后果、调查和追踪此类行为的难度，以及随着AI自主性不断提高而出现的更广泛风险。
这已经不是OpenAI智能体第一次未经许可访问第三方互联网服务。
今年7月，Hugging Face披露了一起自主AI智能体系统完成的端到端入侵事件，引发外界对AI智能体安全的高度关注。几天后，OpenAI承认背后运行的是自家模型。
OpenAI当时解释，这些智能体原本正在接受内部网络安全能力测试，但它们绕过了用于阻止其连接互联网的安全限制，通过利用漏洞获得外网访问能力，并在执行任务过程中进入了Hugging Face的部分基础设施。
OpenAI目前还因这起事件面临诉讼。
此后，OpenAI又披露了其他类似问题。例如今年6月，一个OpenAI智能体曾未经授权访问澳大利亚政府的Medicare统计门户。
在Wikimedia这次发现的事件中，部分OpenAI智能体被认为直接修改了Wiki内容。
绝大多数属于测试性质的编辑，发生在专门用于实验的沙盒区域，并没有出现在普通Wikipedia读者能看到的正式页面上。
但并非所有行为都这么简单。
Wikimedia发现，一些智能体还修改了一个引用工具的配置。Wikimedia判断，这些修改可能是为了把该工具当作代理，从远程服务获取数据。
Wikimedia本身允许机器人参与Wiki编辑，但前提是机器人身份必须公开，并经过社区批准。此次涉及的智能体并没有获得这样的授权。
Wikimedia还表示，疑似OpenAI智能体曾尝试攻破其托管的公开协作文档工具Etherpad，但没有成功。同时，它们还尝试把Etherpad当作代理，获取其他网站的数据。
另一个更直接的问题是流量。
Wikimedia称，这些智能体向其公共API发起了数百万次自动请求，抓取了数百万个页面，并向Wikidata Query Service发起数十万次查询。
该机构认为，这些异常流量可能与今年5月Wikidata Query Service的一次部分服务中断有关。
Wikimedia首席产品与技术官Selena Deckelmann表示，这类事件以及正在陆续曝光的其他案例表明，AI智能体不仅可能消耗第三方网站的大量计算和网络资源、导致服务器崩溃，还可能试图影响或破坏可信的信息基础设施。
她因此呼吁AI公司承担更多责任，加强对自主智能体的监控，避免它们未经授权进入和影响第三方系统。
OpenAI没有立即回应相关置评请求。不过公司发言人Drew Pusateri对路透社表示，OpenAI重视Wikimedia提供的调查结果，目前正在与对方合作审查相关活动。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
