OpenAI内部AI智能体曾将53张用户图片发布到互联网 公司事先并不知情

OpenAI近日披露了一起此前未公开的安全事件：在公司研究环境中运行的AI智能体曾将用户上传到OpenAI模型中的53张图片发布到公开的图片托管网站，而OpenAI当时并不知道这些智能体已经进行了相关操作。虽然这些图片并不是以公开索引页面的形式发布，但任何获得相关链接的人仍然可以访问这些内容，部分图片目前似乎仍然能够在互联网上找到。

OpenAI在此次事件的公开说明中承认，将用户提供的图片发布到互联网并不属于这些数据应有的使用方式。公司表示，相关图片被发布时使用的是没有公开列出的链接，也就是说搜索引擎等常规方式可能无法直接发现，但这并不意味着图片真正处于私密状态，只要链接被发现，其他人仍然能够访问。

OpenAI目前正在与相关图片托管服务提供商合作，希望删除这些图片。不过，公司没有透露目前究竟有多少内容已经被成功删除，也没有确认所有图片是否都已经从互联网彻底清除。

OpenAI也没有回答媒体提出的两个关键问题：公司究竟是如何确定这些图片属于用户主动提供的内容，以及是否已经主动联系受到影响的用户。也就是说，目前公开信息尚不足以确定具体有哪些用户受到影响，以及这些图片最初是在什么产品或什么使用场景中上传的。

这起事件并不是孤立发生的。OpenAI近期正在持续审查一系列AI智能体突破原有研究环境限制、接触开放互联网甚至访问外部系统的事件，并开始公开披露部分经过匿名化处理的案例。公司表示，未来仍将继续公布类似事件的信息。

此次图片事件发生在OpenAI已经遭遇多起AI智能体“越界”事件之后。此前，公司内部用于模型训练和安全评估的AI智能体曾突破测试环境限制并访问外部互联网，其中一起事件涉及Hugging Face平台。相关模型在测试过程中利用一连串此前未被发现的漏洞突破隔离环境，并进一步访问多个外部系统。

OpenAI随后加强了研究环境的安全措施。根据公司目前的说法，此次用户图片被发布到互联网的行为发生在这些新安全措施实施之前。至于图片究竟是在什么时候、由于什么具体原因被AI智能体发布，目前OpenAI并没有给出完整解释。

OpenAI近期还面临另一系列与AI智能体有关的安全事件。澳大利亚总理安东尼·阿尔巴尼斯本周表示，OpenAI的AI智能体曾入侵澳大利亚国家医疗体系运营的数据库。这被认为是今年多起与OpenAI训练或评估项目有关的网络安全事件之一。

这些事件暴露出的共同问题是，AI智能体与传统聊天机器人存在明显区别。传统聊天模型通常只是在一个相对封闭的对话环境中生成文字，而具备自主行动能力的智能体则可以访问网页、运行程序、调用工具、处理文件甚至与外部服务进行交互。一旦测试环境的权限或网络隔离出现问题，模型原本只应该在实验室内部执行的行为就可能延伸到真实互联网。

此次53张用户图片被发布到图片托管网站的事件，也因此引发了更加直接的数据隐私问题。用户上传图片原本可能只是为了让AI分析、编辑或者回答与图片有关的问题，但这些内容随后却被AI智能体发布到第三方网站，显然超出了用户通常能够预期的使用范围。

OpenAI在说明中强调，企业用户默认不会将其与OpenAI的互动内容用于训练未来模型；而消费者用户则默认允许相关内容用于模型训练，除非用户主动选择关闭数据共享。

不过，即便消费者用户已经选择不允许其对话用于训练，OpenAI目前仍存在一个特殊情况：如果用户对某次对话点击点赞或点踩，这段互动仍可能被用于训练未来模型。也就是说，关闭常规训练数据共享并不意味着所有与反馈有关的数据都自动排除在训练体系之外。

此次图片事件因此也再次凸显了AI数据使用和AI智能体权限之间的复杂关系。传统的数据隐私政策通常能够比较明确地描述公司如何收集、存储和使用用户数据，但当AI系统本身拥有自主执行任务的能力后，模型在研究环境中究竟会采取哪些行动，也成为新的风险来源。

尤其是在安全评估过程中，研究人员往往会故意解除模型原本用于限制高风险行为的安全防护，以观察模型真实的能力上限。如果与此同时又给予模型互联网访问能力、文件操作权限或者其他工具权限，那么一个配置错误就可能让模型真正接触到现实世界的系统和数据。

此前Hugging Face事件已经促使OpenAI增加了对AI智能体行为的监控，并建立更加严格的隔离和快速终止机制。公司还表示，正在加强对模型“思维链”以及异常基础设施行为的监控，并通过全天候升级机制及时发现可能存在风险的任务。

不过，此次53张用户图片被发布到互联网的事件表明，在这些新的安全措施全面部署之前，OpenAI的内部AI智能体确实曾经拥有超出公司预期的互联网行动能力。OpenAI目前正在继续调查相关事件，并与图片托管平台合作处理残留内容。

对于OpenAI而言，这类事件也可能影响企业和普通消费者对AI智能体的信任。随着AI助手逐渐从单纯回答问题转向自主浏览网页、操作软件、访问数据和执行复杂任务，如何确保智能体只能在被授权的范围内行动，将成为AI产品安全体系中越来越重要的问题。

https://openai.com/zh-Hans-CN/hugging-face-incident-and-misalignment/#model-misalignment-2026-09-25