北京
人工智能公司Anthropic做了一件几乎没有企业会做的事：斥资数十亿美元，在全球最火热的赛道研发出一款性能远超竞品的模型，却选择不对外发布。这款名为Mythos的新模型展现出前所未有的网络安全能力。它在OpenBSD这一以安全著称的操作系统中找出了一个潜伏27年的漏洞；又在视频编码器FFmpeg中识别出一个存在16年的缺陷，这个问题曾躲过五百万次自动化安全测试的筛查。
然而，Anthropic并未出售该模型的使用权，而是发起“玻璃翼计划”(Project Glasswing)，联合亚马逊、苹果、微软、CrowdStrike等公司组建防御联盟，承诺投入1亿美元的算力资源，并向美国联邦机构通报了相关风险。Mythos太过危险，不宜公开部署；同时又太过重要，不能束之高阁。
Mythos或许是新生事物，但这种困境并不陌生。2009年，我与肯尼斯·奥耶(Kenneth Oye)和斯科特·莫尔(Scott Mohr)联合发表了一篇关于合成生物学安全影响的论文。这一领域既可能催生新型生物武器，也能显著增强生物防御能力，其核心挑战与当下如出一辙：强大的两用技术在私营主体间扩散，而技术发展初期，攻击者往往比防御者更先受益。生物学家罗杰·布伦特(Roger Brent)将这一困境命名为“死亡阴影之谷”.......
继续阅读
全文共计2626字
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
