人类如何阻止生物AI工具“黑化”

图片来源：《自然》网站

记者 刘 霞

　　生物学领域的人工智能（AI）工具正如雨后春笋般涌现，随之而来的安全隐忧也日益加深。这些利器既能助力研发创新药物与生物燃料，也可能沦为新型威胁的推手。面对不断迭代的AI技术，一个尖锐的问题摆在眼前：它们是否会加速强效毒素、新型病毒乃至生物武器的诞生？

　　瑞士苏黎世大学结构生物学家马丁·帕塞萨警告，生物安全形势已不容乐观。理论上，借助AI，恶意行为者有望合成隐蔽性极强、现有检测手段难以筛查的蓖麻毒素或其他致命毒剂。然而，如何化解这一风险，学界尚无定论。有人主张对生物AI工具施加严格限制，也有人担忧这会扼杀科研的活力。

　　AI应用于生物学引发广泛担忧

　　美国约翰斯·霍普金斯大学AI生物安全研究员詹姆斯·布莱克认为，该领域存在两大核心关切：一是未经专业训练的人员仅凭聊天机器人，便可掌握制造或散布炭疽等病原体的基础知识；二是手握资金与资源的国家行为体或恐怖组织，能将通用AI与专业生物软件深度结合，从而“从零到一”设计出新型生物武器。

　　美国非营利组织SecureBio西斯·多诺霍团队2月发布的预印本论文显示，借助前沿大语言模型，生物学背景薄弱的人在病毒学实验排错、编写自动化实验室机器人代码等任务上，已可媲美甚至超越部分博士研究人员。此外，具备自主执行能力的AI智能体，还能引导生物模型定向增强病毒蛋白的致病力。

　　不少科学家担心，AI对人类最大的潜在威胁，或许是设计出可引发大流行的病毒。最常见的做法是对现有病毒（如新冠或流感病毒）进行改造，增强其逃避免疫系统攻击等特性。2025年9月，美国斯坦福大学与弧形研究所的科学家在生物预印本平台发表论文宣称，他们已利用AI设计出首款能精准追踪并裂解大肠杆菌的噬菌体。

　　美国国家科学院等机构2025年发布的报告也指出，现有生物AI工具已具备设计特定毒素的潜力，只是大规模生产与有效投送仍是难点。

　　筛查是防止滥用的有效屏障

　　面对生物AI工具被滥用的风险，多位科学家指出，最优解是在基因合成或毒素制备的源头实施精准拦截。

　　意图合成AI设计蛋白或定制基因组的研究者，通常需向核酸合成企业订购DNA或RNA序列。部分企业加入了国际基因合成联盟，该联盟强制要求成员筛查订单中可能编码毒素、致病蛋白等有害分子的序列。

　　但2025年开展的一项研究揭示，此类筛查防线正被AI工具悄然穿透。微软公司埃里克·霍维茨团队利用开源蛋白设计工具对72种高危生物分子（含毒素与病毒蛋白）进行重新设计，生成了7.6万个“合成同源物”。这些序列因高度变异，成功绕过了参与测试的4家合成企业的筛查系统，其中约1/4被预测最接近真实威胁的“顶级设计”成功脱检。不过，在其中的3家企业升级算法后，漏检率骤降至约3%。

　　有学者认为，当前筛查体系仍是抵御滥用的有效屏障，但技术迭代一日千里。也有学者将担忧的目光投向“台式DNA合成仪”。这类设备目前仅能合成极短序列，但随着技术演进，未来合成更长片段乃至完整基因可能成为现实，届时源头管控将面临全新挑战。

　　为AI模型加装“安全护栏”

　　也有科学家认为，AI工具本身（尤其是生物垂直模型）应内置更严格的访问控制与防护机制。2024年诺贝尔化学奖得主、华盛顿大学计算生物物理学家大卫·贝克透露，其团队在发布蛋白设计工具前均会开展系统性风险评估。这与他们2024年3月联合近200名科学家签署的《负责任AI与生物设计原则》一脉相承，旨在推动科学界建立自律框架。

　　OpenAI等通用大模型开发商已着手训练模型拒绝或安全化处理有害请求，涵盖生物安全等敏感领域。而由弧形研究所、英伟达公司与斯坦福大学联合开发的基因组语言模型Evo 2，虽基于跨越生命之树的12.8万个物种基因组训练，却主动剔除了感染真核生物（含人类）的病毒数据。因此，Evo 2在设计和预测此类病毒序列时，能力受到限制。

　　这些“护栏”并非无懈可击。多诺霍团队研究显示，近90%的测试者仍能从通用大模型中套取高危生物信息。当斯坦福大学生物工程师利用通用AI智能体进行“提示词攻击”，就能成功诱导Evo 2生成新冠病毒与HIV-1蛋白的变体；而仅用公开的人类感染病毒基因组数据对Evo 2进行微调，即可恢复其相关能力。

　　在开放与安全间寻求良策

　　目前，各国政府虽已就DNA合成订单筛查展开立法探讨，但在AI软件管控方面大多仍持审慎观望态度。

　　美国威斯康星大学莫格里奇研究所计算生物学家安东尼·基特尔警告，设计粗糙的防护机制可能误伤科学探索。德国联邦国防军微生物研究所所长罗曼·沃尔菲也强调，试图全面封锁技术获取既不现实，也非良策，生物AI仍应在可控前提下保持最大程度的开放。

　　约翰斯·霍普金斯大学生物安全研究员加西·潘努等人提出折中方案：基础病原体序列数据应保持开放，但对新衍生的高风险数据，如将特定基因突变与大流行特征直接关联的实证信息，则应实施严格准入。

　　今年4月，OpenAI宣布推出专为生物学定制的大语言模型课程GPT Rosalind，实行申请审批制。其生命科学产品负责人表示，即便获准访问，用户行为也将被置于监控之下，以便及时识别其制造生物武器的异常轨迹。