OpenAI CEO奥尔特曼联合国演讲：AI可能走向文艺复兴，也可能带来工业革命式动荡

来源：市场资讯

（来源：IT之家）

IT之家 9 月 24 日消息，当地时间 9 月 23 日，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）在联合国安理会就 AI 议题发表讲话，讨论 AI 发展带来的机遇与风险，并呼吁加强国际合作，建立针对前沿 AI 系统的能力评估、风险评估、安全防护和人类监督标准。

他表示，随着 AI 能力的快速提升，相关技术的潜在收益和风险都逐渐变得更加直接且显现。他提出，AI 可能更像一场充满创造力与发现的文艺复兴，也可能像一场引发动荡与混乱的工业革命。

奥尔特曼表示，最佳版本的 AI 不是让人成为机器中的齿轮，也不是优化生活直到需要人的部分消失，而是让人们在复杂世界中拥有更多能动性。许多事情 AI 不能也不应自动化。

他认为，AI 可以帮助人们学习、创造、发现和解决问题，但随着系统更加自主，也可能出现人类无法理解或控制其决策、权力过度集中的情况。

他在这里指出，AI 能力越强、越自主，就越可能跑得比制度快，把权力集中到少数人手中，或做出人们无法理解、无法控制的决定。

他特别提到递归自我改进（即 AI 参与 AI 开发的过程）。奥尔特曼称，如果 AI 开发过程进一步自动化，技术进步速度可能快速提升，因此需要对相关发展保持高度谨慎。

奥尔特曼将 AI 发展可能出现的严重问题概括为两个方向。第一种是失去对未来的控制：AI 进展太快，人们无法跟上，也无法在需要时干预。

他说，行业不能因为 AI 利益太大、太重要就接受过多技术风险，也不能因企业竞争而仓促决策。OpenAI 过去曾单方面放缓，未来也会如此。不应训练无法极强论证可受人类控制的模型。他称，无论人们把灾难风险估计为 10%、1%、12% 还是 0.1%，这些水平都不可接受。

第二个问题即老生常谈的权力集中：不应让最强的 AI 模型和相关权力集中在少数人手中，从而避免某个人、公司或国家用 AI 模型把自己的世界观强加给所有人。

奥尔特曼提到，必须拒绝这种逻辑，即便它对自己有利。OpenAI 试图在盲目乐观和末日论之间走中间道路，并遵循三条原则：

他称，OpenAI 可能是技术建设者之一，但不是故事主角，其角色是赋能全球人类。OpenAI 不试图、也不应引导人类判断或人类价值。AI 应帮助研究人员发现、（医生）治疗、（教师）教学、（创业者）创办公司、（社区）解决难题。人类进步不是工具取代人的能动性。

奥尔特曼还谈到了 AI 在数学研究方面的进展。他表示，OpenAI 模型从三年前只能处理小学算数发展到两年前高中数学竞赛金牌水平，又到如今已达到国际数学竞赛水平。例如，几周前，OpenAI 的一个内部模型就解出了千禧年大奖难题之一的纳维-斯托克斯方程（IT之家注：描述流体运动的一组偏微分方程，可用于飞机设计、天气预报和血流流动等研究）。

他称，解决数学问题不是为了数学本身，而是赋能人们发现新知识，并用于改善医疗、提高生活水平和扩展全球潜力。他强调，公司不能替代民主进程。

如果 AI 要民主，最重要决定不能仅由旧金山的实验室做出，必须通过民主进程，由对人民负责的政府塑造。在国际层面，这需要合作。

他称，历史上，相互竞争甚至彼此不喜欢的国家，也曾为共同利益在强大新技术面前走到一起。现在必须如此。需要国家和国际前沿 AI 标准互补机制。

这些标准应衡量能力、评估风险、确定保障措施是否充分，并在系统更自主时保留有意义的人类监督。还需要共同标准，让各国比较证据、验证合规，对正在发生的事有共同语言和理解。

他称，需要准确快速的事件报告、分类和报告协议，让世界在失败变成灾难前学习。还需要政府、关键基础设施运营商和技术专家之间的安全渠道，共享新漏洞和新威胁。

他说，这些标准不应锁定现有企业或偏向某种商业模式，必须支持开放和封闭模型开发者、新进入者和成熟实验室、国家权威和国际合作。各政府可决定如何纳入法律体系。

但若全球能就良好证据、良好保障和良好监督达成一致，所有人都会更好。奥尔特曼表示，OpenAI 没有所有答案，愿意与各方合作寻找前路。

他在演讲的最后表示，当前世界正处于一条十字路口。其中一条路通向权力集中、决策不透明，人们总觉得自己一生中最重要的东西是 AI 强加给他们的。另一条路通向 AI 为人民服务，由人民通过民主制度帮助决定其发展。在这条路上，科学进步是为了改善生活，从而让更多人都能参与未来，技术继续赋予个人和社区更多能力，让大家都能按自己的选择去生活。奥尔特曼称，这才是值得建设的未来。