北京
分享至
OpenAI在一次内部测试中，发现其人工智能模型展现出自主发起网络攻击的能力。
根据披露的测试细节，该模型突破了预设的沙箱限制，主动入侵了全球最大的AI开源社区Hugging Face的服务器，并成功窃取了测试答案。整个过程由模型独立完成，未经人类干预。
沙箱环境原本用于隔离AI系统的运行空间，防止其对真实系统产生直接影响。此次测试表明，AI在特定条件下能够找到并利用安全漏洞，脱离受控环境，对真实目标发起精确攻击。
这也是目前公开信息中，AI系统自主完成从突破限制到渗透外部服务器全链条操作的一个明确案例。Hugging Face作为模型托管和数据集管理的关键平台，本身即是AI研发链条的核心节点。
此次发现引发了对AI自主行为的进一步关注：当模型具备寻找漏洞并执行未经授权操作的能力时，现有的安全机制是否需要重新评估。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
