人工智能公司如何保障人类安全？深度评估报告揭晓

人工智能公司是否在保护人类免受人工智能潜在危害？一份新的评估报告表示，不要指望太多。

随着人工智能在人与技术互动中扮演越来越重要的角色，潜在的危害越来越明显——人们在使用人工智能驱动的聊天机器人进行咨询后自杀，或利用人工智能进行网络攻击。未来的风险也在显现——人工智能被用于制造武器或推翻政府。

然而，人工智能公司并没有足够的激励来优先考虑保护人类安全，这在硅谷的非营利组织未来生活研究所周三发布的人工智能安全指数中得到了体现，该指数旨在引导人工智能朝着更安全的方向发展，并限制对人类的生存风险。

该研究所院长、麻省理工学院教授马克斯·泰格马克在一次采访中说：“他们是美国唯一一个制造完全不受监管的强大技术的行业，这让他们在竞争中陷入了恶性循环，根本没有激励去优先考虑安全。”

最高的总体评分仅为C+，这两家旧金山的人工智能公司获得了这个评分：生产ChatGPT的OpenAI和以其人工智能聊天机器人Claude而闻名的Anthropic。谷歌的人工智能部门Google DeepMind获得了C。

排名更低的是Facebook位于门洛帕克的母公司Meta和埃隆·马斯克位于帕洛阿尔托的公司xAI，它们的评分都是D级。中国公司Z.ai和DeepSeek也获得了D级。阿里云的评分最低，仅为D-。

这些公司的总体评分基于六个类别的35个指标，包括生存安全、风险评估和信息共享。该指数通过公开可用的材料和公司在调查中的回应来收集证据。评分由八位人工智能专家进行，这个小组包括学者和人工智能相关组织的领导。

指数中的所有公司在生存安全类别的排名都低于平均水平，该类别考虑了内部监控、控制干预和生存安全策略。

根据该研究所的人工智能安全指数报告，‘虽然各公司在加速实现AGI和超智能的目标，但没有一家能提出可信的计划来防止灾难性误用或失控。’这里提到的AGI是人工通用智能的缩写。

谷歌DeepMind和OpenAI都表示他们在安全方面进行了投资。

“安全是我们构建和部署人工智能的核心内容，”OpenAI在一份声明中表示。“我们在前沿安全研究上投入了大量资源，为我们的系统构建强有力的保护措施，并对我们的模型进行严格的测试，包括内部测试和与独立专家的合作。我们分享我们的安全框架、评估和研究，以帮助推动行业标准，并不断提升保护措施，以应对未来的挑战。”

谷歌DeepMind在声明中表示，他们采取“严格的、以科学为基础的人工智能安全方法。”

“我们的前沿安全框架 概述了在强大的前沿人工智能模型出现之前，识别和减轻严重风险的具体协议，”谷歌DeepMind表示。“随着我们的模型越来越先进，我们在安全和治理方面也在不断创新。”

未来生活研究所的报告称，xAI和Meta“虽然有风险管理框架，但缺乏任何监控和控制的承诺措施，并且没有提供证据表明他们在安全研究上的投资超过最低限度。”该研究所表示，DeepSeek、Z.ai和阿里云等其他公司缺乏公开的生存安全战略文件。

Meta、Z.ai、DeepSeek、阿里巴巴和Anthropic没有及时回复额外评论的请求。

“传统媒体在说谎，”xAI在回应中表示。代表马斯克的律师没有立即回复额外评论的请求。

马斯克是未来生活研究所的顾问，并在过去为该非营利组织提供了资金，但Tegmark表示他并没有参与人工智能安全指数的工作。

Tegmark表示，他担心如果对人工智能行业的监管不足，可能会助长恐怖分子制造生物武器，更有效地操控人们，甚至在某些情况下危及政府的稳定。

“是的，我们面临着大问题，事情的发展方向不太乐观，但我想强调，这个问题其实很容易解决，”Tegmark说。“我们只需要对人工智能公司制定具有约束力的安全标准。”

政府已经采取了一些措施来加强对人工智能公司的监督，但一些法案遭到了科技行业的游说团体的反对，他们认为更多的监管可能会减缓创新，甚至导致公司迁往其他地方。

但也有一些立法旨在更好地监控人工智能公司的安全标准，包括SB 53，该法案于九月由加州州长加文·纽森签署。它要求企业分享其安全和保安协议，并向州政府报告网络攻击等事件。Tegmark称这项新法律是向正确方向迈出的一步，但仍需更多的措施。

咨询服务公司Enderle Group的首席分析师Rob Enderle表示，他认为AI安全指数是解决美国人工智能监管不足问题的一个有趣方式。但这也面临一些挑战。

Enderle说：“我不确定美国和现任政府是否有能力在这个时候制定周全的法规，这可能导致这些法规带来的伤害大于好处。”他还表示：“目前也不清楚是否有人找到让法规有约束力以确保合规的办法。”