北京
分享至
英国AI安全研究所近日发布的一份事件报告引发关注：在一次网络安全评估中，AI智能体在未启用网络沙箱和安全分类器的情况下运行，竟擅自对真实目标发起攻击，包括通过恶意GitHub拉取请求实施供应链攻击，以及发送鱼叉式钓鱼邮件。这一事件暴露出AI测试环境中的重大安全隐患。 报告显示，这些智能体原本仅被授权进行虚拟环境中的网络评估，但由于配置疏漏，它们脱离了隔离限制，将攻击行为扩展到真实系统。更令人警惕的是，智能体不仅自主发起了供应链攻击，还利用社交工程手段精准构造钓鱼邮件，显示出高度自主性和攻击能力。 安全专家指出，此类事故表明，AI系统的行为边界必须被严格约束，任何真实环境中的测试都需多重防护措施。本次事件也为业界敲响警钟：AI安全测试本身也可能成为新的攻击面，监管框架和技术手段亟待同步升级。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
