加州AI法案引争议，李飞飞、吴恩达、本吉奥、辛顿意见不一

美国加州已成人工智能监管斗争焦点。日前，美国人工智能初创企业、科技巨头、学术界联合反对加州安全法案SB-1047（《前沿人工智能模型安全创新法案》），认为该法案将使得AI创新冷却，但支持者认为对AI的监管比对理发店的监管更少。

8月6日，“AI教母”李飞飞在社交媒体上表示，虽然这项法案本意是好的，但它不仅很难达到它的目的，还会深深伤害人工智能学术界、开源社区等。李飞飞表示，人工智能是一项文明技术，将对每个人产生深远的影响。人工智能政策必须鼓励创新，设置适当限制，并减轻这些限制的影响；否则，最好的结果是达不到目标，最坏的情况下是导致可怕甚至是意想不到的后果。

但杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等计算机科学研究人员以及法律学者共同签署了一封致加州州长的信，支持SB-1047法案。信中说，“废除这项法案的基本措施将是一个历史性的错误，在一年内，当下一代更强大的人工智能系统发布时，这个错误将变得更加明显。”他们将法案描述为“对这项技术进行有效监管的最低限度”。

法案或阻碍创新生态

SB-1047法案已提交州立法机构，在加州参议院和两个州议会委员会获得通过，几乎没有遭到反对意见。该法案要求人工智能大模型的开发人员进行安全测试，以降低AI技术造成“灾难性伤害”的风险。所谓的灾难性伤害，法案将其定义为造成至少5亿美元损失或大规模人员伤亡的网络攻击。

法案适用于达到一定计算能力且训练成本超过1亿美元的人工智能模型。无论公司总部在哪里，只要在加州开展业务，都被涵盖在监管范围内。李飞飞说，这种阈值的设定是武断的，这一措施非但不会提供保障，只会限制包括学术界在内的各个部门的创新。“今天，学术领域的人工智能模型低于这一门槛，但如果我们要重新平衡私营和公共部门人工智能的投资，学术界将受到SB-1047的监管。我们的人工智能生态系统将因此变得更糟。”

法案要求，开发人员必须确保人工智能在开始有危险行为时可以被人类关闭。今年7月，著名AI学者吴恩达（Andrew Ng）表示，他对SB-1047法案深感担忧，法案可能会使人工智能大模型的构建者承担责任，如果该法案以目前的形式通过，它将扼杀人工智能模型构建者，尤其是开源开发者。

深度学习大牛、纽约大学教授、Meta首席科学家杨立昆（Yann LeCun）表示，监管机构应该监管应用，而不是技术，规范基础技术会阻碍创新。让技术开发人员为不良使用承担责任，只会阻止技术发展。最奇怪的是，所有这些规定都是基于完全假设的科幻小说场景。杨立昆认为，这些监管将杀死整个人工智能生态系统，“不仅仅是初创公司，还有学术研究。”

SB-1047也受到了产业界的强烈抵制。“如果它按照书面规定生效，将对加州的创新产生寒蝉效应。”创业加速器Y Combinator公共政策主管卢瑟·洛威（Luther Lowe）说。Meta和OpenAI也对该法案提出了担忧，谷歌、微软和Anthropic则提出了冗长的修正案。

反对者说，该法案没有具体规定这些测试应该是什么，也没有规定由谁组成一个新的委员会来监督遵守情况。微软在概述对该法案的反对意见信中表示，支撑该法案监管架构的基本要素尚未到位，有可能导致投资错位、产生误导性结果，以及错失集中资源的机会。

反对者的另一个担忧是，如果存在不合理的风险，可能导致或造成严重伤害，该法案将禁止发布人工智能大模型。“这个模糊的标准创造了一个法律雷区。”风险投资公司安德森·霍洛维茨（Andreessen Horowitz）的合伙人安妮·米德哈（Anjney Midha）表示，“目前的技术根本无法保证不会出现这些假设的情况。”米德哈认为，该法案将阻止大型开发商向公众提供模型，从而破坏依赖这种开放性进行创新的生态系统。

加州是许多人工智能创新的发源地。吴恩达说，他担心这个反竞争、反创新的提案在立法机构中得到了如此多的关注。“更糟糕的是，其他司法管辖区经常效仿加州，如果他们在这种情况下这样做，那将是可怕的。”

对AI的监管比理发店少

“我并不反对人工智能治理。”李飞飞在署名文章中表示，过去一年与美国总统拜登的多次对话中，她表达了需要一种“登月计划”的心态来刺激美国人工智能教育、研究和发展。“然而，SB-1047的限制过于武断，不仅会使加州的人工智能生态系统降温，还会对整个国家的人工智能产生令人不安的下游影响。”

但旧金山民主党州参议员斯科特·维纳（Scott Wiener）表示正与科技行业接触，对改革持开放态度。“科技行业有些人反对任何形式的监管，不管它是什么，即使是合理的、宽松的监管。”维纳认为，该法案只是将该行业制定的安全标准编纂成法律，“这并不是过分的规定。”

杰弗里·辛顿(Geoffrey Hinton)和约书亚·本吉奥(Yoshua Bengio)等计算机科学研究人员以及法律学者共同签署了一封致加州州长的信，支持SB-1047法案，否认该法案会阻碍创新的说法，并指出按照书面规定，该法案只适用于最大的人工智能模型。信中说，“废除这项法案的基本措施将是一个历史性的错误，在一年内，当下一代更强大的人工智能系统发布时，这个错误将变得更加明显。”他们将法案描述为“对这项技术进行有效监管的最低限度”，“相对于我们面临的风险规模，这是一项非常宽松的立法。”

本吉奥和辛顿都是图灵奖获得者，与杨立昆同被称为“人工智能教父”。“对可能带来灾难性风险的人工智能系统的监管比对三明治店或理发店的监管要少。”信中说，“作为最了解这些系统的一些专家，我们可以自信地说，这些风险是可能的而且是足够重要的，需要进行安全测试和常识性预防措施。”

“我担心，科技公司在争夺市场份额和利润最大化的过程中，无法独自解决这些重大风险。这就是为什么我们需要为那些处于这场竞赛前沿的人制定一些规则。”本吉奥说。

上个月在接受Vox采访时，维纳说，该法案已经被修改，以回应来自开源社区的批评。当前版本免除了原始开发人员在模型不再受其控制时的关闭要求，并且当其他人对其模型进行重大修改时限制了原始开发人员的责任，将重大修改版本视为新模型。

在华盛顿，从美国范围内监管人工智能的提议几乎没有取得进展。但科罗拉多州和犹他州最近通过了美国首批人工智能监管法律，监管范围比加州SB-1047法案更窄。倡导对人工智能模型训练数据进行监管的非营利组织透明度联盟(Transparency Coalition)称，目前美国各州立法机构正在审议大约400项与人工智能相关的法案。加州立法机构大约有30项法案正处于不同阶段，其目标包括从保护知识产权到扩大儿童色情的定义，将人工智能生成的图像包括在内。