比尔·盖茨对话萨姆·奥尔特曼：如何监管人工智能？

界面新闻记者 | 彭新
界面新闻编辑 | 文姝琪

1月12日，微软创始人、原CEO比尔·盖茨在其自媒体平台释出与OpenAI首席执行官萨姆·奥尔特曼去年进行的播客对谈。

他们讨论了人工智能、ChatGPT、OpenAI的创业等多项话题。两位科技领域大人物的对话，让外界得以一窥双方对于人工智能的看法和OpenAI的部分细节。

值得注意的是，比尔·盖茨在开场即提及，两人在录制该节目后不久，奥尔特曼即被解除了OpenAI首席执行官的职务，后又经历了一系列事件，最终被重新聘用，因此播客内容并不涉及到此次风波的内容。从时间点来看，若奥尔特曼本人回顾本次对话，想必心境会大有不同。

在对话伊始，盖茨便向奥尔特曼表示，他对ChatGPT的表现感到惊讶，并对AI如何能够将莎士比亚著作“编码”进行数据处理感到好奇，因为目前无人能理解背后的原理，即人工智能的“可解释性”问题。对此，奥尔特曼解释说，类似于人类大脑，OpenAI也搞不清楚哪个“神经元”在起作用，但他认为随着时间推移，关于AI的可解释性会有更多进展。

“你会在许多经验性发现的技术发展史中看到这一点。他们虽然不知道发生了什么，但显然它行得通。然后，随着科学理解的加深，他们可以使它变得更好。”奥尔特曼称。

展望未来两年，奥尔特曼认为，多模态AI方向将会成为重要趋势，如AI能够同时理解文字、影像数据等。在可靠性上，人工智能也需做出改进，他举例称，如果问GPT-4大部分问题10000次，10000次中可能有一次回答得很好，但它不一定知道是哪一次。而用户希望每次都能得到这10000次中最好的回答，因此可靠性的提升将非常重要。以及，基于人们对GPT-4的需求各不相同，AI的可定制性和个性化也将很重要。

监管是AI领域的一大热门话题，两人对谈的很一大部分也落于此。

比尔盖茨提及，政府承认在社交网络的监管已经“搞砸了”，奥尔特曼附和称，虽然他不明白为什么政府在社交媒体方面的监管不能更有效，但现在政府将要面临的是与AI相关更复杂的挑战。

对于人工智能的监管，奥尔特曼称“我们开始弄清楚了”，对于技术的过度监管很容易发生，而技术发明者对于其影响又难以评估，如AI是否将影响社会、影响地缘政治力量的平衡等。随后他举例称，其中一个处于讨论的监管模式是类似国际原子能机构的模式，即一个全球性机构对于大规模人工智能系统进行监督。但他预见仍会遇到许多短期问题，还受到如版权、地缘形势等因素的影响。

奥尔特曼还表示，要求AI系统放慢速度是非常困难的。但仍有一些可能落地的方案，如对世界上少数几个最强大的系统进行监管，要求计算集群都不能超过一个特定的、极高的功率门槛。此外，任何集群都必须接受类似国际武器检查员审查，大型AI模型必须接受安全审计，通过训练期间的一些测试，并在部署前通过审计和测试等。

奥尔特曼提到，对于人工智能带来的生产力提升上，他看到编程是其最兴奋的领域。目前，AI辅助编程已经被大规模部署和使用，此外医疗保健和教育也是另外两个他非常期待的快速发展的领域。

盖茨称，面对可能实现的AGI+（超级通用人工智能），他担心三件事：一是坏人控制了系统；二是系统控制一切的可能性。前两者他不太担心，他更关注最后一个哲学化的问题——超级通用人工智能实现后，人类的价值何在？（如何寻找目标？）又该如何组织社会？

对此奥尔特曼回应称，从事技术工作有很多心理上的困难，找到其中的价值是最困难的，“从某种意义上来说，这可能是我做的最后一件难事。”

谈及ChatGPT的成本问题，奥尔特曼表示，GPT-3是OpenAI推出时间最长、优化最久的模型，在它推出的三年多时间里，他们已经将成本降低了40倍。至于GPT-3.5版，他们已经将其成本降低了近10倍。GPT-4是新产品，还没有那么多时间来降低成本，这一进程会继续。他自信称，OpenAI对于AI系统的成本下降曲线甚至优于摩尔定律。原因是他们想出了如何让模型更高效的方法，还对研究有了更好的理解。

奥尔特曼解释，目前世界的基本模型由智能成本和能源成本组成，这是影响生活质量的两个最大因素。如果人类能同时降低这两方面的成本，能拥有的东西就会更多。目前OpenAI已经将成本压的足够低，从ChatGPT的每月20美元的订阅费用来看，其价值已经远远超过成本。

谈及OpenAI公司的平均年龄，奥尔特曼回答称其不是一家员工都很年轻的公司，500名员工多由三十多岁、四十多岁、五十多岁的人组成。盖茨评价称，这不像早期的苹果、微软。对此，奥尔特曼称，目前公司普遍变老了，某种程度上对社会是个不好的迹象。他观察称，随着时间的推移，最优秀的创始人年龄都呈增长趋势。

对于创业，奥尔特曼称，OpenAI做了很多与YC建议的标准相反的事情。他们花了四年半时间才推出第一个产品。公司成立之初，对产品没有任何概念，也没有与用户交流。但他还称，自己在YC的学习和经历，使得自己知道如何打破规则。

奥尔特曼表示，OpenAI并不是一家通常意义的创业公司。其对资金和计算能力要求之高，硅谷的投资者不会给出必要的支持，甚至可能超过风险投资所能承受的极限，因为OpenAI无法向投资人给出可预计的产品化时间和价值，最终来自微软的投资非常重要。

谈及对于OpenAI团队达成如此成绩背后的团队建设和建议，盖茨提及，建立一个拥有正确技能组合的团队非常重要，数学、科学很“酷”，但不能忽略复合性技能。奥尔特曼鼓励人们走出舒适区，去做他们真正想做的事情。“明确自己想要做什么，并向别人提出自己的要求，会有意想不到的收获。很多人受困于把时间花在自己不想做的事情上，而我最常给的建议可能就是想办法解决这个问题。”

最后，盖茨和奥尔特曼还就常用的软件进行了交流，奥尔特曼称，他使用Slack（一种办公协作软件，类似于飞书）的时候最多，尽管他“希望能说ChatGPT是自己最常用的软件”。盖茨则称，他最常用的软件是电子邮件应用Outlook，称自己是一名老派的电子邮件爱好者。