北京
萨姆·奥特曼和达里奥·阿莫迪。 维基共享资源 | 世界经济论坛
来源：https://interestingengineering.com/ai-robotics/ai-biosecurity-open-letter-dna-screening-policy
来自人工智能、生物技术和国家安全领域的领军人物敦促各国政府强制要求对合成 DNA 订单进行更严格的审查，并警告说，人工智能的快速发展可能会降低设计生物威胁的门槛。
在一封公开信中，研究人员和行业领袖呼吁立法者强制要求对合成核酸的订单以及生产设备进行筛查。签署者认为，虽然DNA合成技术推动了医学和研究领域的重大进步，但它也可能成为全球生物安全的一个薄弱环节。
信中指出：“在线订购合成DNA的能力加速了疫苗研发，推动了基础研究，并使小型团队能够获得以往只有大型机构才能掌握的能力。” 然而，信中也补充道，这种便利性长期以来被认为是一种潜在的滥用途径，促使行业团体自愿采取了保障措施。
信中指出，现有的自愿制度本身已不再足够。
人工智能风险与生物安全转变
签署方警告称，人工智能正在迅速改变风险格局。他们指出，现代人工智能系统在一些高技术性的实验室问题上已经能够胜过专家级病毒学家，这引发了人们的担忧，即生物滥用的知识壁垒可能会减弱。
信中指出，“在病毒学家各自专业领域内，人工智能系统在处理高技术实验室操作问题上，如今的表现已经超越了博士级别的病毒学家。”信中还补充道，虽然相关证据仍在不断发展，“但历史上阻止不法分子获取生物武器的知识壁垒很可能大幅削弱。”
该提案重点关注基因合成行业许多公司已采用的筛查机制。这些系统会在发货前检查DNA订单中是否存在可疑序列并核实客户身份。该提案还建议保留订单和序列记录，以便在发生滥用情况时提高可追溯性。
信中指出，“筛查也是目前最容易理解且干扰最小的生物安全措施之一”，并补充说，可追溯性既可以起到威慑作用，也可以帮助进行调查。
产业与政策的协调
许多大型基因合成公司已经通过国际基因合成联盟等行业组织实施自愿性筛选标准。该信函认为，强制推行此类做法将确保一致性并弥补执法方面的漏洞。
以下签名者包括来自主要人工智能公司、生物技术公司、学术机构和政策组织的领导人。其中包括萨姆·奥特曼、德米斯·哈萨比斯、达里奥·阿莫迪、亚历山大·王，以及来自斯坦福大学、麻省理工学院和普林斯顿大学等机构的研究人员。
签署者们将这一刻描述为各行业之间罕见的共识时刻，这些行业在监管问题上经常存在分歧。
信中总结道：“这是利益相关者之间难得达成共识的时刻，他们之间通常存在分歧。”信中敦促政策制定者在人工智能能力不断发展的背景下迅速采取行动。
作者呼吁国会在本届会议上通过立法，并鼓励各州采用统一的标准，以避免监管方法的碎片化。
他们认为，早期行动可以降低长期风险，同时保持合成生物学在医学、农业和研究方面的好处。
信中将该问题描述为既紧迫又技术上可控，将DNA筛查定位为人工智能能力加速发展的时代中生物安全的基础步骤。
阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”
未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
