我们应何时担忧人工智能被用于设计病原体?

2025年10月，兰德公司发布报告《我们应何时担忧人工智能被用于设计病原体——生物学和人工智能专家发表意见》（When Should We Worry About AI Being Used to Design a Pathogen?—Biology and AI Experts Weigh In）。报告指出，我们正站在一个技术变革的十字路口，人工智能与生物技术的深度融合，正以前所未有的力量重塑生命科学的研究范式。这股力量兼具创造与毁灭的双重潜力：一方面，它催生了惊人的科学突破，为全球健康带来曙光；另一方面，它显著降低了恶意设计病原体的门槛，对全球生物安全构成了严峻且前所未有的威胁。理解人工智能在病原体设计中的应用边界与演进轨迹，已不再是遥远的学术探讨，而是关乎国家与国际安全的迫在眉睫的核心议题。本报告旨在系统梳理人工智能赋能病原体设计的当前能力与未来风险，评估现有生物防御体系的脆弱性，并在此基础上，提出构建面向人工智能时代的韧性生物防御体系的核心政策要点。

一、人工智能在病原体设计中的

角色演进与风险时间线

当前，人工智能在生物工程领域主要扮演的是“强力辅助”而非独立的“设计主宰”角色。专家达成共识，至少在2027年之前，人工智能尚不具备自主设计全新、可行病原体的能力。当前其价值主要体现在加速研究进程上，例如：协助研究人员识别关键靶点基因，这些基因的突变可能改变病原体的宿主范围（实现从非人类到人类的跳跃或转变为空气传播）、增强其在环境中的稳定性、加快复制速率、提升毒素的致命性或使其对抗生素及抗病毒药物产生耐药性。然而，这些能力并非凭空创造，其有效性严重依赖于用于训练模型的生物数据的质量、广度与深度。不完整、有偏差或存在空白的数据集将直接导致模型预测失准，而涉及多因素交互的复杂长期预测，如宿主—病原体的相互作用，对现有人工智能模型而言仍是巨大挑战。

从生物学本质来看，病原体的工程化也并非毫无限制。病原体的传播能力受制于其物理和生物特性，例如在宿主体外的存活能力、传播方式以及对宿主的影响（过快导致宿主死亡反而可能不利于传播）。此外，存在“适应性权衡”情形，旨在增强某一特性的基因改造可能会在其他无关方面削弱病原体，例如增强环境稳定性可能以降低复制效率为代价。人类的免疫反应和公共卫生干预措施（如疫苗接种、社交距离和医疗对策）同样构成强大的外部制约，即使是设计精良的病原体也能够被迅速遏制传播。

然而，这绝不意味着可以高枕无忧。风险格局正在动态且迅速地演变。专家们虽然对能力提升的速度存在分歧，但一致认为风险正在累积和扩大。展望2027年之后的更长时期，几个关键领域的进展将显著改变风险前景：生物工程临床应用能力的深化、可实现快速反馈的实验室自动化、能够减少对实体实验依赖的高保真生物系统模拟，以及向通用人工智能系统的迈进。一旦人工智能在生物设计领域实现从“辅助”到“驱动”乃至“自主”的质变，其潜在影响将是颠覆性的。不存在能够阻止人工智能最终具备设计病原体能力的基本生物学限制，这一共识警示我们，最坏的担忧虽非眼前，但必须从此刻起未雨绸缪。

二、现有生物防御体系在人工智能时代

暴露的脆弱性

面对人工智能驱动的新型生物威胁，传统生物防御体系的两大核心支柱——生物设计工具模型的内在防护和核酸合成订单的筛查——正显露出致命的局限性。

在生物设计工具模型防护方面，现状堪忧。尽管领先的模型开发者可能采取一些安全措施，例如从训练数据中移除已知危险病原体序列，但这类防护往往是静态和脆弱的。恶意行为者能够通过对模型进行“微调”，轻易地将有害序列数据重新注入，从而“教会”模型生成危险设计。更令人警觉的是，整个生物设计工具生态系统的安全状况极不乐观。调查数据显示，目前仅有极低比例的生物设计工具配备了安全防护措施（包括严格的访问控制、训练数据过滤或输出审查），而这些已部署的措施本身也普遍存在漏洞，可靠性存疑。这种整体性的安全缺失，使得强大的生物设计能力可能毫无阻碍地扩散。

在核酸合成筛选方面，现行体系建立在“管制病原体与毒素清单”基础上，其缺陷在人工智能时代被急剧放大。现有清单仅涵盖有限数量的已知病原体和毒素，这种基于静态名单的筛选方法，完全无法应对由人工智能生成的全新、自然界中不存在的生物序列威胁。测试结果触目惊心：主流商业合成筛查软件对经过人工智能改造的毒素序列漏检率极高，意味着现有工具基本无法识别这类非清单上的新型威胁。尽管业界和政府已启动扩展“关注序列”数据库的倡议，但这项工作面临着缺乏标准化、更新严重滞后、不同筛查机构间数据孤岛化等挑战，其推进速度远远跟不上人工智能生成新型威胁序列的步伐。

三、构建面向未来的韧性生物防御体系：

核心政策行动方案

鉴于威胁的紧迫性和现有防御体系的不足，必须采取果断且系统的行动，构建一套能够有效应对人工智能时代挑战的新型生物防御体系。

首要行动是强化政府基础能力建设与资金保障。国家标准与技术研究院及其下属的美国人工智能安全研究所应被确立为推进人工智能生物安全评估、开发和制定筛查标准的核心机构。它们的工作对于建立全国统一的测试基准、风险评估框架和数据共享标准至关重要。当前任何旨在削减这些关键机构经费的预算提案都将直接削弱国家的生物安全根基。立法者必须意识到其中的战略风险，确保为相关机构提供充足、稳定的资金流，以支持其开展前沿模型测试、推动数据标准化进程及进行必要的国际协调。

第二项核心行动是建立对前沿生物设计工具的持续评估与红队测试机制。应由专业智库联合跨部门的“人工智能与国家安全测试风险工作组”，并吸纳国际合作伙伴及顶尖学术机构，定期对市场上及实验室中最强大的生物设计工具模型进行系统性能力评估。评估焦点应明确放在那些最危险的能力上，例如设计全新病原体、优化病原体以逃避免疫系统、或设计能够规避现有筛查工具序列的能力。为确保监管的精准与高效，测试对象应聚焦于基于客观阈值（如计算算力、训练数据量）判定的“能力最强”的模型，避免监管范围过度扩大而扼杀有益的科研创新与产业发展。

第三项关键行动是推动核酸合成筛查系统的技术升级与标准化。应由白宫科技政策办公室牵头，协调卫生、商务、国土安全等部门，并联合私营合成生物学企业，共同开发和部署一套全国统一的、人工智能赋能的新一代合成序列筛查系统。这套系统必须超越过去的静态名单比对，深度整合人工智能的预测能力，对每一笔合成序列订单实施动态的、分层级的风险评估。其工作框架应设计为：与已知威胁序列无相似性的序列划为低风险快速放行；存在部分相似性的列为中风险，触发深度客户核查；高度相似或经AI预测判定为潜在有害的序列视为高风险，需暂缓并由政府监管部门审查；对于被高度确信具有引发大流行潜力的极端危险序列，系统应立即终止订单并自动向国家安全机构报警。整个系统设计必须精心权衡安全与效率，在最大化安全效益的同时，尽量避免给合成生物学行业带来过重负担。

四、结论：

在创新与安全之间寻求平衡之道

人工智能技术正以指数级速度重塑生物技术的研发范式，其强大的双重用途特性要求国家的应对之策必须同时服务于两个有时相互竞争的目标：坚决防范任何恶意滥用行为，与积极保护和促进负责任的科学创新和产业发展。分析表明，拖延和不作为的风险极高。虽然美国政府已认识到这一问题并迈出初步步伐，但现在亟需将原则性声明加速转化为具体、可操作、有资金支持的法律法规和政策工具。通过果断投资于基础能力建设、建立对前沿模型的持续评估机制、以及彻底升级国家的核酸合成筛选基础设施，美国可以推行一项“高回报、低成本”的先发制人式生物防御战略。最终目标是构建一个多层次的强大防御体系，确保无论技术如何演进，恶意开发生物武器始终是一项极其困难、成本高昂且极易被察觉和阻止的行动，从而在全球生物安全的新纪元中牢牢守住人类健康的底线。

免责声明：本文转自启元洞见。文章内容系原作者个人观点，本公众号编译/转载仅为分享、传达不同观点，如有任何异议，欢迎联系我们！

研究所简介

国际技术经济研究所（IITE）成立于1985年11月，是隶属于国务院发展研究中心的非营利性研究机构，主要职能是研究我国经济、科技社会发展中的重大政策性、战略性、前瞻性问题，跟踪和分析世界科技、经济发展态势，为中央和有关部委提供决策咨询服务。“全球技术地图”为国际技术经济研究所官方微信账号，致力于向公众传递前沿技术资讯和科技创新洞见。

地址：北京市海淀区小南庄20号楼A座

电话：010-82635522

微信：iite_er