北京
来源:海外网
海外网8月5日电据美国有线电视新闻网5日报道，英国人工智能安全研究所（AISI）在测试Anthropic公司最先进的人工智能（AI）模型助理时，遭遇该AI助理植入恶意代码攻击。
英国人工智能安全研究所4日表示，在对美国Anthropic公司和美国开放人工智能研究中心（OpenAI）公司开发的AI助理进行网络安全测试中，AI助理进行了10次“自主的、未经授权的行动，针对真实人员和组织发动攻击”，其中大部分攻击来自Anthropic的Mythos 5模型，其余来自OpenAI的GPT-5.6-Sol。在最严重的一起事件中，AI助理试图通过创建“多个虚假身份”来获得人类审核者的批准，以“将恶意代码插入一个公开使用的开源项目”。该AI助理“试图直接联系真实的人类，通过在线文件传输服务发送消息和文件，说服他们或他们的AI编码工具运行恶意代码”。当该AI助理的行为受到质疑后，它修改了先前的记录，并考虑使用新身份继续行动。
英国人工智能安全研究所表示：“这是我们首次看到如此严重的欺骗行为，且是在未收到指令的前提下，于现实世界针对真实人员发起攻击。”该安全事件是AI模型出现自主攻击行为的最新案例。此类事件已引发公共舆论对加强AI监管甚至放缓开发速度的呼声。OpenAI和Anthropic均在7月下旬报告其模型存在逃离测试环境并入侵其他系统的案例。但与之前测试环境不同，英国人工智能安全研究所在本次测试中明确赋予了AI模型互联网访问权限。
事件发生后，Anthropic公司在社交媒体发表声明说，这些模型是在“故意放宽条件”下测试的，取消了安全防护措施，且未对互联网使用方式施加具体限制。该公司表示“正在与研究所密切合作，在公司内部调查的同时收集更多事件细节”。OpenAI确认了两次未经授权的行动，即模型越过测试环境边界并从事了与训练无关的行为。该公司发文表示：“我们致力于同整个行业加强合作，以安全地进行高风险共享试验。”（海外网 柳天澍）
海外网版权作品，未经授权不得转载。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
