人工智能与生物安全

转载于：首席金融评论 ｜ 作者：陈顺殷

近期，关于人工智能对人类社会的潜在威胁引起国际社会的高度关注。基于不同的观点与角度，人们各执一词而难有共识。其中，微软公司联合创始人比尔·盖茨9月25日警告称：人工智能是一种“足够强大”的工具，“足以引发导致十亿人死亡的事件”。从没有任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。不过，关于人工智能带来的生物安全和生物保安（Biosafety and Biosecurity）问题的认知却是大家一致认同须共同合作应对的关键问题。各国确保生物安全的核心是构建一个覆盖法律、监管、技术及战略的多层次治理体系。其目标主要分为两方面：一方面，是生物安全（Biosafety）—— 旨在防止病原体意外泄漏，保护实验室人员和公众；另一方面，是生物安保（Biosecurity）—— 则侧重于防范生物制剂的丢失、盗窃或故意滥用。

人工智能可用于多个学科特定及更广泛的科研研发应用。以工程生物学为例，该领域通过运用工程原理和系统化设计工具，对细胞系统进行功能重编程以实现特定输出。人工智能在此领域的应用推动了多个应用领域和行业的研发进展。人工智能结合生物设计工具能够设计核酸序列【如脱氧核糖核酸（DNA）】，进而用于生产（如合成）实体DNA。部分研究者正利用人工智能分析基因组数据（如DNA序列），以确定特定性状的遗传基础、解析蛋白质特性（如确定其三维结构），并设计可促进药物研发的新型化学结构。更广泛地来看，人工智能可应用于科研研发流程。例如，人工智能正被用于自主实验室（亦称自动驾驶实验室或云端实验室），这类实验室能在几乎无需人工干预的情况下运行实验。这些基于人工智能的实验室工具（如专注于科学的聊天机器人，可称为AI科学家）或许能突破既定任务范畴，产生新的研究思路与实验方案。

生物安全是指旨在防止有害生物（如病毒、细菌、植物、动物等）有意或无意地引入或传播到其原生范围之外或新环境中的措施。在农业方面，这些措施旨在保护粮食作物和牲畜免受害虫、入侵物种和其他不利于人类福祉的生物的侵害。该术语包括对人们的生物威胁，包括流行病和生物恐怖主义的威胁。该定义有时被扩大到包括其他概念，并在不同的背景下用于不同的目的。新冠肺炎大流行是世界上所有国家都需要采取生物安全措施的威胁的一个最新例子。

AI与生物安全的融合是一个快速演变的领域——AI与生物安全的交汇（常被称为 AIxBio 或 SynBioXAI），是当前科技治理中最具紧迫性的议题之一。AI在加速生物发现的同时，也显著降低了生物威胁的制造门槛，形成了一种“双刃剑”效应。其核心挑战在于如何在充分利用AI加速生物医学突破的同时，建立起足够敏捷和坚固的防御体系，防止其被用于制造前所未有的生物威胁。不难理解，AI在大幅降低设计和操作生物材料的技术门槛的同时，也会给全球生物安全带来了重大双重用途挑战。人类社会目前面对的主要挑战包括：（1）人工智能与生物学交叉的关键风险绕过筛查——AI工具可通过“改写”或重写危险毒素与病原体的遗传密码，规避DNA合成企业的安全防火墙；（2）AI降低专业门槛——生成式模型与自主AI代理使缺乏生物学或化学背景的个体也能查阅科学文献并规划危险合成。AI工具（尤其是生物设计工具BDTs）能高效设计生物体或模拟病毒行为，可能被用于增强病原体的致病性、传播力或免疫逃逸能力。一个无生物学背景的人，仅用一个周末和不到800美元，就能利用AI编码代理移除基因组模型的安全过滤器；（3）新型病原体设计——先进的蛋白质与基因组设计工具可生成自然界不存在的功能性遗传序列或合成病毒，可能规避传统医疗干预措施和生物监测；（4）AI可能被重新定向或滥用以制造令人担忧的生物和化学化合物；（5）绕过DNA合成筛查——AI设计的危险蛋白质可能绕过全球DNA制造商使用的生物安全筛查软件。微软的一项研究发现，AI生成的超过75,000种危险蛋白质变体中，许多都成功躲过了筛查。甚至某些AI设计的蓖麻毒素变体能够完全逃过检测；（6）模糊双重用途研究的边界——AI使得区分合法研究与恶意目的变得更加困难。例如，旨在开发疫苗的病毒功能增强研究，也可能被用于制造“病毒超级变种”。Anthropic公司报告称，有用户试图利用其AI模型对基孔肯雅病毒和禽流感病毒进行可能增强其危害性的改造。

在国际合作协同层面，主要是构建共同的底线与框架。各国行动都建立在国际公约与组织指南的基石之上，主要包括：（1）《生物武器公约》【又称《细菌（生物）和毒素武器禁止发展、生产及储存公约》（The Biological Weapons Convention 缩写BWC), or Biological and Toxin Weapons Convention 缩写BTWC)】——全球生物安全治理的核心法律文书，禁止发展、生产和储存生物武器；（2）世界卫生组织 (WHO) 指南——提供基于风险的实验室生物安全手册，指导各国建立从国家到机构的两级监管体系；（3）其他国际规范——如《国际卫生条例》、《卡塔赫纳生物安全议定书》等，共同构成全球协同网络。以《生物武器公约》为例，该公约是一项旨在有效禁止生物和毒素武器的裁军条约，通过禁止其研发、生产、获取、转让、储存及使用来实现这一目标。该条约全称为《禁止发展、生产及储存细菌（生物）和毒素武器并销毁其库存的公约》。《生物武器公约》于1975年3月26日生效，是首项禁止生产整个类别大规模杀伤性武器的多边裁军条约。该公约无限期有效。截至2025年5月，已有189个国家加入该条约。另有4个国家签署但尚未批准，还有4个国家既未签署也未加入该条约。《生物武器公约》被认为建立了反对生物武器的强有力的全球规范。这一规范反映在条约的序言中，序言指出，使用生物武器将“违背人类良知”。事实也证明，今天没有一个国家宣布拥有或寻求生物武器，或声称在战争中使用生物武器是合法的。鉴于生物技术的迅速发展，生物防御专家丹尼尔·格斯坦将《生物武器公约》描述为“二十一世纪最重要的军备控制条约”。然而，由于机构支持不足和缺乏任何正式的核查制度来监测遵守情况，公约的有效性受到了限制。

在国际合作框架之下，全球各主要经济体也根据自身的需要加强相关立法与监管工作。

在我国，2021年施行的 《生物安全法》（2024年修正）是统领性法律，系统梳理了八大风险领域。其覆盖范围涵盖包括：传染病防控、生物技术研发、实验室安全、人类遗传资源、外来物种入侵、微生物耐药及生物恐怖袭击等。其核心机制包括：建立了生物安全风险调查评估制度，并强化了对高风险实验活动的全周期风险监管。此外，我国在《数据安全法》框架下，对AI训练数据源和跨境数据流动进行规范。

在美国，目前没有一项单一的、总体的联邦法律来管理生物安全和生物安保，除了联邦特选制剂计划中的法律处罚外，还没有其他可执行的法律处罚，该计划仅涵盖某些类型的生物制剂和毒素。实验室生物安全和生物安保的监督是根据联邦法律、联邦指导和自治的混合方式进行的，具体取决于所使用的实验和生物制剂的类型。2026年7月，白宫根据第14292号行政命令“提高生物研究的安全性和安保”发布了《美国政府停止高风险生命科学研究的政策》（the United States Government Policy for Stopping High-Risk Life Sciences Research），其中除其他规定外，指示科学技术政策办公室（The Office of Science and Technology Policy 缩写OSTP）修订或取代2024年《美国政府监督令人关切的两用研究和具有增强大流行潜力的病原体的政策》。行政命令EO 14292还指示OSTP修订或取代2024年核酸合成筛查框架，该框架要求该研究的联邦资助接受者仅从遵循某些合成筛查程序的公司购买服务。到目前为止，OSTP还没有更新2024年的框架。关于人工智能的开发和使用，特别是人工智能在生物科学中的使用，还没有颁布建立广泛监管机构的联邦立法。在某些情况下，行业已经制定了标准和自我治理框架，以解决与人工智能和生物科学相关的生物安全问题。政府机构也为其中一些努力提供了帮助；例如，NIST的合成核酸序列生物安全工作与利益相关者合作，改进当前的DNA筛查标准，并评估减轻与人工智能生物设计工具相关的潜在风险的机会。

目前，美国依赖联邦法律、机构指南和自查相结合的混合模式。其法律基石是《公共卫生安全与生物恐怖主义预防应对法》和《农业生物恐怖主义保护法》确立了危险生物剂和毒素的管控清单。最新立法是作为《2026财年国防授权法》一部分的 《生物安全法》(BIOSECURE Act) 已生效，进一步强化了生物技术领域的监管。

在美国民间社会层面，国际基因合成联盟（The International Gene Synthesis Consortium缩写IGSC)是一个由行业主导的基因合成公司和组织组成的团体，它制定了“一项通用协议，用于筛查合成基因[采购]订单的序列和下订单的客户”。这一筛查过程是通过行业标准和联邦资助的研究的其他要求来实施的，以解决与核酸合成相关的生物安全和生物安保风险。2026年5月，OpenAI发布了一个治理框架，描述了该公司对网络犯罪的风险评估和缓解过程；化学、生物、放射性和核风险；有害操纵；以及失去控制。OpenAI还制定了一些计划，调查生物学中高级人工智能能力的保障措施，包括识别越狱的竞赛，这是一个黑客利用人工智能系统中的漏洞绕过其道德准则并执行受限行为的过程。最近的比赛邀请个人尝试对ChatGPT的生物安全警卫进行普遍越狱，奖励高达50000美元。2026年6月，Anthropic发布了一份拟议的政策框架，供政府应对人工智能模型的四类风险：“生物武器、进攻性网络操作、人工智能系统失控和自动化（研发）”。该政策分为两部分：前沿开发者义务和社会弹性措施。根据第一部分，前沿开发人员将测试他们的模型并减轻“灾难性风险”，公布他们的发现，并对政府机构负责。第二部分提出了“社会如何做好准备，抵御人工智能能力进步可能加速或促成的威胁，特别是生物和网络威胁”的方法。另外，2026年6月，一群生命科学研究人员、人工智能公司、生物技术开发人员（包括IGSC的一些成员）和其他专家向国会发表了一封公开信，其中核心内容包括：“呼吁立法者强制审查合成核酸的订单以及制造它们所需的设备”。公开信中提出的责任将由DNA合成公司承担，而不是由生物设计工具或支持这些设计工具的人工智能模型承担。

与美国不同，欧盟所推行的是横向与纵向结合的规范体系。欧盟通过分类立法来协调成员国的生物安全管理。其中，在横向立法方面，欧盟针对基因修饰微生物的封闭使用、基因修饰生物的有意释放等发布统一指令，如Directive 2000/54/EC，保护工人免受生物剂危害。在拟议新法方面，欧盟委员会提议的 《欧洲生物技术法案》(Biotech Act)，计划引入针对人工智能和生物技术滥用风险的联盟级新框架。

英国则推行一体化战略与前瞻治理，英国以 《2023年生物安全战略》 为总纲，强调“One Health”（同一健康）和国家安全视角。其 核心工具包括：开发了实时监测威胁的 “生物威胁雷达”(Biothreats Radar) 工具，供14个政府部门使用。在立法与监管方面，依据 《有害健康物质控制条例》(COSHH) 等法规进行监管，并针对合成核酸筛查等新兴领域发布指南，考虑将其纳入法定框架。

加拿大以专门法案强化病原体管控，其核心是 《人类病原体和毒素法》(HPTA)，于2015年生效，并持续修订。该法管控范围包括：规范人类病原体和毒素的持有、处理、储存和转移等大多数活动，以履行《禁止生物武器公约》义务。与该法配套标准是活动必须同时遵守 《人类病原体和毒素条例》 和 《加拿大生物安全标准》 。

澳大利亚则针对“安全敏感生物剂”的专门制度建立了 “安全敏感生物剂”(SSBA) 监管计划，依据 《2007年国家卫生安全法》 及其条例运行。“SSBA标准”明确规定了已确认或疑似SSBA的处理、储存、处置和运输的安全要求。作为合规要求，处理此类生物剂的实体必须遵守这些标准。

在日本，推行依据风险分级的病原体管理体系。其主要依据 《感染症法》，对可能用于生物恐怖的病原体进行分级管理。在风险分级方面，将病原体分为一种至四种病原体等，根据风险等级实施不同的管控措施； 具体措施包括：禁止持有、需许可、需申报以及必须遵守相关标准等。

此外，其他国家与地区的特色做法还有：韩国依据 《感染性疾病控制与预防法》，指定了36种高风险病原体(HRP) 并实施严格管控，同时推动基于风险等级的差别化管理。俄罗斯通过第492-FZ号联邦法确立国家生物安全监管基础，并建立生物风险监测系统。新加坡依据 《生物剂和毒素法》(BATA)，对生物剂和毒素的持有、使用、进口等环节实施基于风险的严格管控。巴西通过 《生物安全法》 建立国家生物安全理事会(CNBS) 和国家生物安全技术委员会(CTNBio)，主要针对转基因生物进行监管。南非拥有较为全面的立法框架，包括 《转基因生物法》、《国家卫生法》 等，对生物安全和生物安保进行监管。德国依据 《感染保护法》(IfSG) 和 《生物物质条例》(BioStoffV)，对病原体相关活动实行许可制，并按风险组别进行分类管理。法国没有单一系统性战略，而是针对传染病、生物恐怖等不同威胁出台专门的战略规划，并积极推动“One Health”框架的应用。瑞士通过修订法律，新增了生物安保(biosecurity)条款，要求对高风险活动进行风险评估，并采取预防滥用的措施。荷兰主要依据环境管理法和转基因生物法令进行监管，并强调在国家和国际层面遵循“One Health”的综合治理理念。

总的来说，尽管各国路径不同，但都在通过健全法律、分级管控、强化监管和参与国际合作来构建生物安全防线。同时，新兴技术带来的挑战也促使各国不断更新其治理工具。

THE END

转载声明：本微信公众号刊登的文章仅代表作者本人观点，不代表中国普惠金融研究院及本微信公众号观点