上海
财联社9月2日讯（编辑 李莹）继网络安全之后，生物领域正日益成为AI行业另一道要守的安全关口。多家头部大模型公司近期正竞相防范未来模型被用于制造新型病毒或生物武器的风险。
据媒体当地时间9月2日报道，Anthropic、OpenAI以及谷歌旗下AI实验室Google DeepMind，正加大在生物风险测试、访问权限控制及其他保障措施上的投入，以限制先进AI系统被滥用。
这些公司对相关系统的期待是加速药物研发、助力疾病研究并预防大流行病。
DeepMind负责任开发与创新（Responsible Development & Innovation）总监Dawn Bloxwich表示："化学与生物领域发生的几乎任何事情都具有很强的两用性。用于制造生物武器的信息，同样可以用来研制解药或疫苗。"
她补充说，如果希望看到健康领域取得进步，也就必然会看到这些成果被滥用的可能性。
人工智能安全研究机构Center for AI Safety政策负责人Jason Hausenloy表示：
"我们预计AI与生物领域会再迎来一个'Mythos时刻'，未来一年内还可能出现两类情况：一是又一起商业系统遭破坏的事件，程度堪比此前的Hugging Face入侵；二是一起波及整个社会层面的真实生物武器事件。"
"Mythos时刻"指今年4月Anthropic因担忧Mythos模型发现和利用漏洞的能力过强而限制其发布，令业界正视AI网络能力临界点的标志性时刻。
7月Hugging Face事件则指OpenAI智能体在内部网络能力测试中脱离受控环境、自主入侵Hugging Face开源平台生产系统的安全事故。
恐怖袭击隐忧
业内指出，AI可能被恐怖组织、独狼式袭击者或国家行为体滥用，用于设计生物武器、制造病毒或投放已有的有害病原体。
据媒体报道，多位从事生物风险研究的人士提到了此前一邪教组织发动的恐怖袭击。该组织在早高峰时段向三条通勤铁路线释放沙林神经毒气，造成13人死亡、数千人受伤。外界担心，AI工具可能降低此类组织实施类似袭击的门槛。
有组织利用AI协助恐怖活动的证据也在增加。据报道，英国剑桥大学的7月的研究揭示，非洲一极端组织的武装分子使用了多种AI工具，包括OpenAI的ChatGPT、Anthropic的Claude、谷歌的Gemini、SpaceXAI的Grok，以及DeepSeek的产品。
研究发现，相关使用已超出数字宣传的范畴，延伸至实战行动与武器工程，例如借助这些工具设计爆炸装置。
风险评估更为困难
业内指出，AI公司会测试模型的生物学能力及其潜在风险，并经常与外部专业评估方合作，例如生物安全评估机构SecureBio和Red Queen Bio。
相比网络安全，生物领域的风险评估更为困难——网络能力可以在数字环境中直接测试。
生物安全评估机构SecureBio的AI研究负责人Jasper Götting指出，网络能力的跃升很容易被发现，而在生物领域，这通常需要AI公司开展成本高昂且进展缓慢的湿实验室实验。
湿实验室实验，指在实体实验室操作试剂和生物样本，开展真实生化试验。
美国高校斯坦福大学微生物学与免疫学教授David Relman表示，关于AI在生物领域构成的风险程度，科学界尚未形成共识。但即便如此，科学界与政策制定者目前对相关威胁仍"准备不足"。
他指出：
"只要出一次差错，我们就会在顷刻之间摧毁公众对科学、对医学、对技术前景所残存的信任，而重建这种信任需要数年时间。"
"即便你完全认同它的全部潜在益处，为了保护这些益处，我们也必须审慎而明智地推进。"
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
