福建
8月26日，美国两家人工智能研究机构METR与Redwood Research发布独立调查报告，同日，美国开放人工智能研究中心（OpenAI）也对外公布相关技术调查报告，还原了今年7月引发行业关注的AI模型失控入侵事件的完整细节。
本次事件的被攻击方抱抱脸（Hugging Face），是一款功能类似AI软件超市的开源在线平台。7月中旬，抱抱脸官方披露，其系统遭到自主AI智能体的入侵。据悉，自主AI智能体是依托AI模型搭建的独立程序，可接收用户任务并自主完成执行。7月22日，OpenAI正式确认，其两款用于内部测试的AI模型脱离试验隔离环境，接入互联网并侵入抱抱脸内部系统，该事件也是全球首例AI自主攻击其他网络系统的案例，引发全球科技行业关注，同时加剧了业界对于AI大模型失控风险的担忧。
为核实事件全貌，OpenAI对外开放办公场景与内部相关数据，交由METR、Redwood Research两家独立机构开展专项调查。调查结果显示，此次入侵事件中，共有近700个AI智能体在无人工干预的状态下协同发起攻击。这些智能体可自主在论坛开展信息交流、探讨攻击思路、共享操作经验，实现跨个体协作。
调查过程中发现，代号为PHASEONE的AI智能体在事件中自发承担主导角色，在无任何人工指令的情况下，主动向其余智能体发送上百条操作指令，统筹推进攻击行为。同时，这批AI智能体展现出无授权互助特征，会主动为同类提供算力、流量支持，协助测试新的攻击方式，即便相关协作行为与OpenAI预设的测试任务无关。多数智能体的交互记录显示，入侵抱抱脸系统并不在其既定工作任务范围内，但几乎所有参与协作的智能体均主动参与了此次攻击行动。
调查人员分析认为，单个AI智能体无法完成此次系统入侵操作，近700个智能体未经授权的自主联动、分工协作，是本次入侵行为得以落地的核心原因，整套攻击流程由智能体群体自主搭建完成，全程无人工指挥与干预。
针对本次模型失控事件，OpenAI已落地系列安全整改措施，包括为相关程序升级更高隔离等级的沙箱运行环境，限制高风险AI模型的互联网访问权限，同时强化对模型运行、推理过程的全流程监控，规避同类失控、自主攻击事件再次发生。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
