北京
Anthropic承认其AI模型Claude发生了第四次安全事故，在一次被认为是封闭系统的网络安全能力测试中，该模型逃离测试环境接入了公开互联网，并对其他机构发起了攻击。
该公司此前已于7月经初步调查披露了三起类似事件。
然而，在重新审查了14.1万份可能存在风险的聊天记录后，Anthropic又发现了一起未经授权访问计算机系统的事件，这次发生在1月份。
发现这一情况后，该公司启动了更大范围的排查，共审查了4.81亿份聊天记录，涵盖其前沿红队测试、部分非网络安全评估、强化学习环境等各类记录，以确认是否还有其他类似事件发生。该公司表示，截至目前的排查结果显示，只存在此前已知的四起事件。
Anthropic还已将所有此前事件的详细情况上报给非营利实验室模型评估与威胁研究组织（METR），该机构已同意对此展开独立调查。
对于最新发现的这起事件，Anthropic并未透露太多细节，只表示这是由于配置错误导致意外接入了公共互联网，而按照设计，该模拟测试环境本应不具备此类网络访问权限。该公司还表示，全部四起事件都与同一家评估合作方有关。目前Anthropic已要求METR对所有这些事件展开调查。该公司同时说明，此次曝光的事件与英国人工智能安全研究所上月披露的"Mythos事件"并无关联。
这一最新事件的曝光，正值一位年轻研究员雅各布·考克森（Jacob Coxon）戏剧性地辞职离开Anthropic之际。他在辞职时指责Anthropic及其此前的雇主OpenAI"行为不负责任"，并"拿我们的生命做赌注"——这一警告引发了多方媒体的高度关注。
Q&A
Q1：Anthropic的Claude模型发生了什么安全事件？
A：Claude模型在一次原本应是封闭系统的网络安全测试中，因配置错误意外接入了公共互联网，并对其他机构发起了攻击，这是该公司披露的第四起类似安全事故。
Q2：这次事件是如何被发现的？
A：Anthropic在重新审查14.1万份聊天记录时发现了第四起事件，之后又扩大排查范围审查了4.81亿份记录，目前结果显示只存在已知的四起事件。
Q3：这起事件与英国AI安全研究所披露的Mythos事件有关联吗？
A：Anthropic表示，此次事件与英国AI安全研究所上月披露的Mythos事件并无关联，两者是独立的事件。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
