北京
分享至
Anthropic近日宣布，已将其AI模型Fable 5的生物学安全过滤器误报率大幅降低约85%。此前，几乎所有生物学相关查询都会被系统拦截，并转交给能力较弱的Opus 5处理，这一做法曾遭到科学家的强烈批评。
如今，用户可以使用Fable 5处理更多生物学任务，例如解读化验结果、理解症状以及回答医学问题。Anthropic表示，这一调整是在确保安全的前提下，减少对正常科研和科普需求的过度限制。
不过，对于“双重用途”领域，如病毒学、毒理学和分子设计，Fable 5仍保留严格防护措施。Anthropic解释称，这些领域可能让恶意行为者获得在其他地方无法获取的能力。为防止滥用，公司正在建立专门的访问计划，以便研究人员未来在受控条件下使用这些受限功能。
Anthropic认为，生物风险可能比网络攻击更难遏制：释放的病毒无法被“关闭”，而研发对策需要时间。美国情报机构的分析、对ChatGPT聊天记录中生物武器指令请求的审查、多国研究人员的联合警告，以及斯坦福大学利用AI设计全合成病毒的项目，都表明这一威胁是真实存在的，并非Anthropic的过度担忧。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
