北京
“前沿大模型越来越不相信「局外人」。”
作者丨周学连 赖艺鸣
编辑丨覃倩雯
Meta的超级智能实验室，又挖来了一支关键团队。
据外媒报道，Meta近期从企业级AI安全初创公司Virtue AI挖走了三位创始人及其团队成员，并将该团队并入Meta超级智能实验室，也就是MSL。这笔交易更接近“收购式招聘”，目前暂未披露具体金额和条款。
Virtue AI的两位创始人李博和宋晓冬，将直接向Nat Friedman汇报。后者曾担任GitHub CEO，目前是MSL的联合负责人，同时负责实验室下的“产品与应用研究”团队。
李博和宋晓冬，并非传统创业者，而是AI安全领域的顶尖研究者。李博曾任UIUC计算机科学教授，专注大模型安全与可信性研究；宋晓冬则是伯克利计算机科学教授、麦克阿瑟天才奖得主，在网络安全和AI安全领域拥有超过二十年的研究积累。
Meta此次挖人，不只是又多了几位AI人才，本质是给自己的超级智能计划补上了安全的短板。
据了解，Virtue AI本身是一家专注企业级AI安全和治理的初创公司，创始团队长期深耕对抗式机器学习。简单来说，他们做的不是让模型变得更会回答问题，而是让模型在复杂、恶意、不可控的场景下，尽量少出错、少被攻击、少产生有害输出。
这类能力，放在今天的AI竞争里，已经不是边缘功能。
Virtue AI此前推出过一套AI安全产品，包括用于自动化红队测试的VirtueRed，以及用于实时拦截有害输出的VirtueGuard。前者主要用来发现提示注入、越狱等模型漏洞，后者则更像是部署在模型输出链路上的安全阀，帮助企业在实际使用中降低风险。
对Meta来说，这正是它接下来绕不开的一环。Meta超级智能实验室成立的目标是整合Meta内部的AI研究力量，包括Llama开源模型和FAIR研究团队，向更强的前沿模型和所谓“超级智能”推进。
但模型越强，安全问题就越不可能只靠外部工具解决。这也是Virtue AI团队的价值所在。
它不是一个普通的AI应用团队，而是一支长期研究模型攻击、防御、评估和治理的安全团队，其成员参与过MMLU基准测试的开发。这些经验对于Meta来说，意味着它可以在模型训练、测试、上线和产品化的各个阶段，提前建立更完整的安全防线。
这也反映出行业风向正在发生变化。
前沿模型公司不再满足于外包安全能力，而是开始把治理、内容过滤、风险评估这些能力收回到自己手里。原因也很简单，当模型能力越来越强，安全问题也会越来越复杂。
尤其对Meta来说，它一边押注开源模型，一边又希望把AI能力广泛接入消费级产品。开源带来扩散优势，也会带来更复杂的滥用风险；消费级产品带来巨大用户规模，也意味着任何安全失误都可能被快速放大。
雷峰网AI科技评论已经与Virtue AI创始人李博进行了专访对谈，关于这场收购的更多内幕信息，我们将于下周发布「为什么是 Virtue AI？揭秘 Meta 收购华人 AI 安全团队始末」。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
