人工智能安全性担忧不容忽视！美、英宣布开展合作

财联社4月2日讯（编辑 周子意）人工智能（AI）带来机遇的同时，越来越多人对即将到来的下一代人工智能（AI）感到忧心。周一（4月2日），美国和英国宣布在人工智能安全科学方面建立新的合作伙伴关系。

美国商务部长吉娜·雷蒙多和英国技术大臣米歇尔·多尼兰周一在华盛顿签署了一份谅解备忘录，宣布共同开发先进的人工智能模型测试。

这是继去年首届全球人工智能安全峰会上宣布的国际声明后，全球达成的又一份国际合作。

去年11月，首届全球人工智能安全峰会在英国布莱切利庄园举行，开幕式上，包括中国在内的与会国共同达成《布莱切利宣言》，这是全球第一份针对人工智能这一快速新兴技术的国际性声明。

人工智能风险

生成式人工智能可以根据开放式提示创建文本、照片和视频，不过它也存在许多负面因素，例如淘汰一些工作岗位、影响选举结果、并可能推翻人类、造成灾难性后果。

周一，雷蒙多和多尼兰在接受联合采访时表示，需要紧急采取联合行动来应对人工智能风险。

雷蒙多指出，她特别担心人工智能应用于生物恐怖主义或核战争模拟的威胁，“这些事情的后果可能是灾难性的，所以我们真的必须对其中一些模型被用于这种能力持零容忍态度。”

雷蒙多透露，拜登政府计划很快宣布其人工智能团队的新成员，“我们正在动用美国政府的全部资源。”

多尼兰同样表示，“时间是至关重要的，因为下一代人工智能即将发布，它们将更加强大。”

基于此次合作，两国计划分享与人工智能模型和系统相关的能力和风险的关键信息，以及人工智能安全和安保的技术研究。

研究所间的交流

目前，英国和美国都建立了由各自政府主导的人工智能安全研究所。

英国去年10月份宣布成立人工智能安全研究所，将研究和测试新型人工智能；今年2月，英国还表示将斥资1亿多英镑启动9个新的研究中心，并对人工智能监管机构进行技术培训。

美国则在去年11月份表示，它将启动自己的安全研究所，以评估所谓的前沿人工智能模型的风险，目前正在与200家公司和实体合作。

根据正式的伙伴关系，英国和美国计划至少进行一次公开模式的联合测试，并正在考虑探索两所研究所之间的人员交流。

雷蒙多称，“我们都知道人工智能是我们这一代的决定性技术，这一伙伴关系将加速我们两家相关研究机构在各个领域的工作，以解决我们国家安全担忧的风险和我们更广泛的社会担忧。”

多尼兰指出，“这是世界上第一个这样的协议，人工智能已经是我们社会中一股非凡的有益力量，在应对世界上一些最大挑战方面具有巨大潜力，但前提是我们能够控制这些风险。”