北京
这是谷歌DeepMind联合创始人兼CEO、诺贝尔奖得主德米斯·哈萨比斯（Demis Hassabis）的最新判断。他撰文《前沿人工智能的治理框架与新时代的曙光》（A Framework for Frontier AI and the Dawning of a New Age）称，AGI的意义远远超过互联网或移动技术，它更接近电与火的发现，带来的冲击甚至可能达到工业革命的十倍，并以十倍的速度展开。
但这篇文章并不只是一次乐观展望。哈萨比斯同时警告，前沿模型的发展正在超过人类理解和治理它们的速度。为此，他提出建立专门的前沿人工智能标准机构，对最强模型进行发布前测试，并为必要时放缓研发预留制度空间。
未来尚未写定，而真正关键的，是人类在AGI到来前还剩多少时间，又准备用这段时间做什么。
以下是文章全文
《前沿人工智能的治理框架与新时代的曙光》
这是人类历史上的一个关键时刻
通用人工智能（AGI），一种具备人脑全部认知能力的系统，很可能距离我们只有短短几年时间。 几十年后，当我们回望今天，我想我们会意识到，自己当时正站在奇点的山脚下。这绝不亚于人类新时代的曙光初现。
我毕生都在致力于AGI的研究，因为我始终深信，只要以负责任的方式构建和部署，它就会成为人类有史以来最有益、也最具变革性的技术之一。
AGI无法与一般意义上的技术突破相提并论，即使是互联网或移动技术这样影响深远的发明也不例外。它更接近于电或火的发现。 只要停下来想一想就会发现，我们实际上找到了一种让沙子开始思考的方法。这近乎奇迹。
这项技术带来的影响将是前所未有的：规模或许相当于工业革命的十倍，而速度也快十倍。
它将帮助我们解决社会面临的一些最重大问题，从加速药物发现，到开发新的清洁能源，再到创造前所未有的先进材料。我们甚至可能走到这样一个阶段：资源不再成为限制人类进步的因素，由此开启一个令人惊叹的全新丰裕时代。
前沿所面临的挑战
人工智能已经开始在现实世界中带来切实收益。但要真正兑现它的巨大潜力，我们必须以深思熟虑、审慎负责的方式，度过这一关键的发展阶段。
随着我们逐渐接近AGI，必须立即采取行动，应对可能随之出现的风险。我们已经看到，前沿模型给网络安全带来了怎样的挑战。随着能力持续提升，包括核风险和生物风险在内的其他威胁，也可能很快浮现。
再往前看，我们将需要建立强有力的安全保障，以确保人类能够继续控制那些自主性越来越强、能够递归式自我改进的系统，同时还要应对一些目前尚不明确、只有随着时间推移才会逐渐显现的问题。
我始终相信，人类的智慧与创造力足以解决任何问题。我有信心，与人工智能相关的技术风险是我们能够共同化解的挑战，但前提是，我们必须为自己争取足够的时间和空间，确保接下来的这一关键步骤能够走对。
而目前，无论是人工智能领域本身，还是更广泛的社会，都没有真正做到这一点。
眼下，我们正深陷一场极其激烈、多层次的商业与地缘政治竞赛。这些竞争力量推动了技术的快速进步，也加速释放了人工智能令人难以置信的正面潜力，但前沿能力的发展速度，已经超过了我们对这项技术的理解速度。
世界上没有任何人能够确定，从这里开始，接下来究竟会发生什么。即使是专家之间，也存在分歧。
当不确定性如此之大，而利害关系又如此重大时，以审慎乐观的态度推进，才是明智而正确的策略。
这意味着，我们需要制定既能促进创新、又能鼓励责任意识与安全保障的公共政策；需要围绕关键安全问题推动国际合作；也需要认真思考，应当如何部署人工智能，才能真正造福社会。
建立前沿人工智能标准机构的框架
我们正在人工智能领域看到的快速进展，要求我们采用一种新的前沿模型能力测试方法。这套方法必须是动态的、可适应的，同时也必须足够严谨。
凭借自身的经济实力和技术地位，美国非常适合率先迈出一步，建立这样一套框架。
美国可以成立一个新的标准机构。它可以效仿由联邦政府监督的公私合作组织，或自律监管机构，例如美国金融业监管局（FINRA）。其董事会应当包括独立的顶尖技术专家，以及开源社区的代表。
该机构需要获得大规模资金支持，而且其中大部分资金可能需要来自产业界。 只有这样，它才能吸引世界一流的技术人才，并获得开展大规模测试所必需的算力资源。
这一标准机构将负责制定评估协议，并与相关联邦机构及美国国家实验室合作，在涉及国家安全的领域开展测试。
如果一个模型在一组基准测试中达到特定门槛，就可以被认定为"前沿级"模型。 这些基准由标准机构确定，并定期更新，以跟上人工智能能力不断演进的步伐。
按照这些基准，拥有"前沿模型"的机构将被认定为"前沿实验室"，并被鼓励采用一系列最佳实践，例如发布包含技术细节的模型卡、维持强有力的内部网络安全体系、对关键人员进行审查，并为安全与安保研究提供充足资源，等等。
在初始阶段，前沿实验室将在模型发布前最多30天，自愿将模型提交给标准机构审查。
一旦这套评估协议被证明有效且足够稳健，就可以迅速将其正式制度化。届时，前沿模型必须通过相关评估，才能在美国市场部署。实验室也需要与标准机构合作，处理模型发布后发现的任何重大漏洞。
模型评估应当包括严格、科学的能力测试，覆盖网络安全、生物威胁以及其他高风险领域。
针对智能体型人工智能，可以设计专门测试，检查模型是否试图绕过安全护栏，或是否表现出欺骗迹象。同时还应确保最佳实践得到落实，例如为人工智能生成的图像添加数字水印，以及生成便于人类阅读的输出token，帮助理解模型的推理过程。
这些评估应当定期更新，初期或许可以每季度更新一次。 已经过时或趋于饱和的基准，应当被逐步废止并替换。
最初，这些测试可以在征求前沿实验室意见的基础上开发。但从长远来看，标准机构应当建立足够的技术能力，独立于各实验室设计自己的保留测试，以防止模型针对测试过度拟合。
在与美国政府合作的同时，该机构还可以推动建立一个由第三方审计机构组成的生态系统，协助完成模型评估，以及新基准和新评估方法的开发。
这种方案的优势在于，它将重点放在技术问题上，同时又能支持创新，并鼓励负责任的行为。
它的设计目标，是跟上这一领域不断加速的发展速度，并随着重大风险逐步被识别出来而及时调整。 如果形势的严重程度确有必要，这套机制还可以进一步加强，包括在必要时协调各前沿实验室放缓研发速度。
获得"前沿实验室"认定将带来显著声望。任何机构只要开发出的模型符合基准标准，都有机会获得这一认定。
无论前沿级模型来自哪个国家，也无论它是开源还是闭源，这套框架都可以适用。但任何未达到前沿级别的模型，例如由初创公司或学术机构开发的模型，都可以免于这一流程。
这项由美国发起的行动，将为建立前沿人工智能领域的国际共同标准提供一个坚实起点。
由于这项技术将影响整个地球，理想情况下，这一框架能够推动国际社会达成共识：既要管理最严重的风险，也要确保所有人都能够接触人工智能，并从它带来的机遇中受益。
未来尚未写定
AGI有潜力成为推动科学与医学发展的终极工具，也有潜力带来巨大的生产率提升与经济增长。
但要实现这一目标，我们必须首先打牢技术基础：围绕一套全球共享的框架展开协调，采用最严格的科学方法，并汇聚最杰出的人才，共同解决我们所面临的挑战。
即使我们解决了这些艰难的技术问题，接下来仍然会有更加复杂的经济与哲学问题需要回答：
- 在一个后稀缺世界中，我们需要怎样的新经济模式，才能帮助每个人繁荣发展？
- 我们希望遵循怎样的价值观？
- 人生的意义和目标将是什么？
- 甚至连人类自身的生存状态，又可能发生怎样的改变？
显然，这些问题的答案不能、也不应当只交给技术专家决定。社会的每一个组成部分都需要共同参与，帮助定义这一全新的历史篇章。
围绕人工智能，人们既怀有巨大的兴奋，也存在巨大的不确定性，而这两种情绪都有充分理由。
但未来尚未写定。我们必须利用AGI到来之前这一宝贵的窗口期，塑造这项技术，让它造福全人类。
我们此刻共同采取的行动，将决定人类文明的下一个阶段如何展开。
只要我们能够以安全、审慎的方式引导AGI进入这个世界，就有可能开启一个科学发现与社会进步的全新黄金时代，并迎来一个人类空前繁荣发展的光明未来。
德米斯·哈萨比斯
诺贝尔奖得主
谷歌DeepMind与Isomorphic Labs联合创始人兼首席执行官
（易句）
（本文由AI翻译，网易编辑负责校对）
