北京
人工智能（AI）正在深刻改变生命科学领域，为药物发现、合成生物学和生物工程开辟了全新前沿。然而，同样这些加速研究与创新的先进AI工具——有时被称为生物工具（BTs）——也可能被滥用于有害目的。例如，能够设计蛋白质或预测病毒突变的AI生物工具，可能被恶意行为者利用，用于改造具有免疫逃逸能力或引发大流行病潜力的病原体。
RAND此前与长期韧性中心（CLTR）合作，建立了一个全球风险指数，对具有两用潜力和危险能力的先进AI生物工具进行系统评估。在57款前沿工具中，有13款被标记为"红色"，表明存在高度风险，其中数款工具具备预测病原体免疫逃逸突变的功能。此外，还有15款工具被标记为"琥珀色"，需要逐案进行后续评估。
尽管现有评估已为了解AI生物工具的整体格局提供了宝贵数据，但这些评估大多是静态的、描述性的，缺乏结构化的实时指标，难以满足决策者评估和管理新兴滥用风险的需求。与此同时，各国和各机构对生物工具的监管仍较为分散，缺乏统一协调。目前尚无专门的全球观测机构来监测AI生物工具的快速演进、日益扩大的可及性及其扩散趋势，也无法为决策者和开发者提供针对性的风险评估、早期预警信号及实用指导。
在全球风险指数方法的基础上，RAND正在开发风险指数观测站（RIO）：这是一个持续更新、由自动化辅助驱动的平台，专门用于评估AI生物工具的滥用能力。RIO将跟踪和评估新兴工具，并将相关洞察转化为动态仪表盘、早期预警信号以及面向开发者的实用指导。该观测站将以公开网站的形式对外开放，提供高层级摘要与可视化内容，而更详细的仪表盘和评估报告则仅向经过认证的政府受众开放。
未来，RIO将整合自动化网络搜索功能，以近实时的方式发现新型AI生物工具。一套由领域专用大语言模型驱动的半自动化分诊流程，将对技术描述进行解析，并为专家审查提供初步风险筛查与优先级排序支持。工具将被系统性地评估其能力、可及性及两用或滥用潜力。评估结果将识别出需要重点关注的工具、行业领域和地理集群，从而支持有针对性的监管与更高效的治理。决策者将从新兴高风险能力的早期预警中获益，降低战略层面的意外风险，并实现预防性行动。
观测站还设有第二条工作线，专注于为AI生物工具开发者提供实用资源。RAND将开发一款"RIO计算器"，允许AI生物工具创建者输入模型特征和部署选项，从而生成经过校准的自我风险评估，并指引其参考自愿性安全保障措施或相关风险管理资源。这一工具将帮助开发者在领域持续发展的过程中理解并降低风险，但并不作为安全认证凭证使用。
Q&A
Q1：风险指数观测站（RIO）是什么？它的主要功能是什么？
A：RIO是由RAND正在开发的一个持续更新、由自动化辅助驱动的平台，专门用于评估AI生物工具的滥用能力。它将跟踪新兴工具并生成动态仪表盘、早期预警信号和实用指导，公开网站提供高层摘要，详细报告仅向认证政府受众开放。未来还将整合近实时自动化网络搜索与大语言模型驱动的半自动分诊流程。
Q2：全球风险指数对AI生物工具的评估结果是什么？
A：RAND与长期韧性中心（CLTR）合作建立的全球风险指数，对57款前沿AI生物工具进行了评估。其中13款被标记为"红色"（高风险），部分工具具备预测病原体免疫逃逸突变的能力；另有15款被标记为"琥珀色"，需要逐案进行后续评估。
Q3：RIO计算器是什么？开发者如何使用它？
A：RIO计算器是一款面向AI生物工具开发者的自我评估工具。开发者只需输入模型特征和部署选项，即可获得经过校准的风险自评结果，同时获得自愿性安全保障措施或相关风险管理资源的参考指引。需要注意的是，该计算器不作为安全认证凭证使用，旨在帮助开发者理解并主动降低潜在风险。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
