DeepMind CEO呼吁AI行业在政府支持下推进自律监管

谷歌DeepMind首席执行官德米斯·哈萨比斯正在积极推动美国AI行业在政府支持下实现自我监管，并以此为起点，逐步建立国际共享标准。他在一篇博客文章中呼吁重点关注通用人工智能（AGI）与国家安全议题。

然而，正是这一对国家安全的聚焦，可能使得相关努力的最终成果——假设这一进程真的得以推进——在美国以外的地区难以获得广泛认可。

哈萨比斯写道："AI的快速发展需要一种全新的方法，对前沿AI模型能力进行动态、灵活且严格的测试。美国凭借其经济与技术实力，具备率先建立此类框架的条件。可以仿照联邦监管的公私合营模式或自律组织来设立一个新的标准机构，类似于金融业监管局（FINRA），董事会成员应包括独立的顶尖技术专家和开源领域代表。"

他同时指出，该机构的资金需求将相当可观，且最有可能来自行业自身，以确保其能够吸引世界级技术人才，并获取大规模测试所需的算力资源。

哈萨比斯提议，该机构应"负责制定评估协议，并与相关联邦机构及美国国家实验室合作，在涉及国家安全的领域开展测试"。同时，他建议鼓励参与的AI厂商采纳最佳实践，例如发布包含技术细节的模型说明卡、维护强健的内部网络安全体系、对关键岗位人员进行背景审查，并为安全研究提供充足资源。

这并非哈萨比斯首次对AGI表达忧虑。

此前，DeepMind曾参与美国政府的一项AI安全评估计划，与微软及xAI（现更名为SpaceXAI）共同配合美国商务部旗下的AI标准与创新中心（CAISI）开展工作，推动其对前沿AI模型进行部署前评估和专项研究，以"更好地评估前沿AI能力，并推动AI安全领域的进步"。

分析师与顾问对此举看法不一，多数人对行业自律组织能否将公众利益置于首位表示担忧。

Gartner副总裁分析师纳德尔·海内因表示："自我监管不具有可行性，因为它意味着所有人都能自律，并且会以符合公众最佳利益的方式行事。大多数科技企业并不具备自我监管的能力，它们更希望拥有一套可以在其中运作的规则。营利性组织必须为股东利益最大化服务，而外部监管能够确保这些组织不会陷入两难困境——即在股东利益与公众利益之间被迫取舍。"

Greyhound Research首席分析师桑奇特·维尔·戈吉亚则指出，鉴于AI模型的国际化属性，由美国政府主导协调的相关努力可能会疏远其他国家。

他表示："国家安全既是这项提案在华盛顿的加速器，也是其在海外的致命弱点——这一表述虽然打开了在国内唯一可行的通道，却也让其他国家的首都将这一机构解读为美国战略的工具。"

他进一步补充道："监管版图已呈现多元化格局。布鲁塞尔即将于2026年8月对通用型AI模型启动执法权；伦敦运营着AI安全研究所；北京则依据本国规则颁发许可证。加利福尼亚州和纽约州已针对前沿模型在本地立法。持久有效的路径应是共享技术证据、各自主权执法，通过相互认可而非单方面服从来加以巩固，让印度及其他主要非西方市场成为规则的共同制定者，而非仅拥有旁听席位。"

戈吉亚还补充说，即便是这样一个机构所制定的规则，也未必能涵盖企业IT的所有核心关切。他指出，按照哈萨比斯所设想的方向推进，美国政府的相关工作将产生"紧邻情报与产业政策的测试结果，而这两项职能不会保持整洁的边界隔离。一个模型可以通过所有灾难性风险测试，却依然在隐私、可靠性和责任归属等方面让企业失望"。

沃尔玛前网络安全总监、现任独立网络安全顾问史蒂文·埃里克·费舍尔表示，他认为这一提案"出发点是好的，但它触及的是一个高度敏感的议题，而当前商业利益对政治的影响力已达到前所未有的程度，这种影响力并不总是被善意运用"。

他还说："一个不受全球认可、也无法在国际层面强制执行的美国独家标准，很可能无法实现其核心目标，反而会让美国企业在竞争中处于不利地位。"

纽约市科技咨询公司Tribeca Softtech首席战略官阿曼·马哈帕特拉表示，深入了解FINRA的实际运作方式，可以帮助IT管理者预判这一提案将带来哪些成效——假设行业真的采用这一模式。

他说："当被监管的五家公司的CEO同时也是标准的主要起草者时，这些标准自然会反映那些公司的利益。FINRA设有独立董事会，但实际运作中，成员机构的立场主导着制定实际规则的工作小组。没有理由期待AI领域的类似机构会有所不同，反而有充分理由预期它会更差——因为AI标准化的推进速度比任何行业历史上的自我标准化都要快，而速度正是独立监督的天敌。"

独立技术分析师卡米·利维则对哈萨比斯的提案持更为强烈的反对立场。

他说："要求大型科技公司自我监管，无异于让狐狸守鸡舍。迄今为止这行不通，未来也不会奏效。指望这些组织在此时此刻改弦更张，是极度天真的想法。德米斯·哈萨比斯提出的框架，不过是一个服务于自身利益的路线图，这个行业一心只想冲向AI的终点，全然不顾沿途造成的伤害。一旦允许自我监管的框架成为常态，对更广泛社会造成的危险将难以估量。"

与此形成鲜明对比的是，咨询公司Acceligence首席信息官尤里·戈里乌诺夫对这一提案表示热烈支持。

他说："这是少数几个行业自律真正有机会奏效的情形，企业IT领域应当热情地为其鼓与呼。自律在危害被外部化时会失效，比如社交媒体的内容审核；或者当监管者将判断权拱手让给被监管者时，比如FAA在737 MAX事件前将职责委托给波音。但当行业内所有人都共同承担灾难性后果时，自律就能发挥作用。"

不过，他建议，更好的参照对象不是FINRA，而是INPO——核能运营研究所。该机构由核工业界在1979年三哩岛反应堆部分熔毁事故发生后数月内迅速成立，其逻辑在于"任何一处的事故都是所有人的事故"。"INPO对美国每一家核电站进行同行审查，其评估结果影响保险费率，并在核管理委员会的法定底线之上运作。这是一种公私合作的叠加架构，与哈萨比斯所描述的方向高度吻合。前沿AI也具备同样的结构特征：任何一家实验室发生灾难性失败，监管便会席卷所有人。"

戈里乌诺夫表示，对于企业首席信息官和其他IT管理者而言，这一模式有望带来重大收益。

他说："如今，每家企业都在重复着相同的AI尽职调查流程，包括红队测试、评估套件、治理委员会等，而且每家企业掌握的信息都少于任何认证机构所能获取的信息。一套可信的标准体系，能够为AI做到UL为电气设备所做的事，以及SOC2为云计算所做的事：将一种难以量化的风险转化为可采购的产品，并为董事会提供可辩护的尽职标准。这不是繁文缛节，而是有据可查的安心保障。"

然而，马哈帕特拉指出："反驳意见是，行业主导标准的替代方案，很可能不是深思熟虑的立法，而是没有任何标准，或者各州各自为政，或是当前这种事后执法模式——监管机构往往在危害发生数年之后才浮出水面提出质疑。"

因此，他总结道："哈萨比斯提出的是一个合理的论点：不完美的快速标准优于完美的迟缓标准。对于智能体身份认证、评估方法论和互操作性等议题，这一观点确实有其真实的价值，而这些也恰好是OpenClaw正在重点关注的领域。"

Q&A

Q1：德米斯·哈萨比斯提出的AI自律监管框架具体是什么构想？

A：哈萨比斯建议在美国建立一个新的AI标准机构，模式类似于金融业监管局（FINRA），采用联邦监管的公私合营形式，董事会由独立技术专家和开源代表组成。该机构将负责制定评估协议，与联邦机构及国家实验室合作，在国家安全相关领域开展AI测试，资金主要来源于行业自身。

Q2：分析师为什么普遍对AI行业自我监管持怀疑态度？

A：多位分析师认为，自律存在根本性缺陷：营利性企业的首要义务是股东利益，而非公众利益，两者存在潜在冲突。此外，当标准制定者本身就是被监管对象时，规则必然倾向于保护企业利益。还有观点指出，AI标准化速度过快，独立监督难以跟上，而以国家安全为框架的美国主导标准，在国际上也可能遭遇抵制。

Q3：支持者认为AI行业自律在什么条件下能够真正奏效？

A：支持者以核能运营研究所（INPO）为参照，认为当行业内所有人共同承担灾难性风险时，自律就能有效运作。前沿AI领域也具备这一特征：任何一家实验室的重大失败都会波及整个行业，触发全面监管。支持者还认为，一套可信的标准体系能将难以量化的AI风险转化为可采购、可审计的产品，为企业提供明确的尽职标准。