北京
分享至
以安全为卖点的AI公司Anthropic，其CEO曾多次强调，AI辅助开发化学和生物武器的威胁比网络攻击更大。然而，该公司最新发布的安全报告显示，用于阻止AI模型输出化生武器危险知识的生物武器分类器，从2025年5月至2026年4月一直处于非激活状态。 报告称，在这近一年时间里，所有来自外部承包商提供人类反馈的流量均未经过该过滤器。这些承包商涉及约5万人，期间与模型进行了约1.33亿次对话。Anthropic承认，这些人仅由外部供应商审查，而供应商的筛选流程往往不够充分，增加了潜在风险。 Anthropic表示，内部调查未发现实际滥用证据，但公司已收紧了承包商要求。与此同时，公司最近还放宽了对Fable 5模型的分类器限制，原因是研究人员此前抱怨过滤器过于激进，连合法研究也会被阻断。这次长达一年的安全缺口，暴露出AI安全防护在供应链环节的脆弱性。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
