彭博社专访李开复：AI安全争议升温，企业AI转型不能停步

在接受彭博社专访时，主持人问了我一个很实际的问题：几乎每位CEO都说，公司有AI战略，也把AI放在优先位置。但他们是否真正理解该怎么做？又应该从哪里开始？

我建议，先问自己两个问题：

• 你是否正在用AI经营公司？

• AI给公司的季度财报带来了什么变化？

如果第一个问题的答案是“没有”，第二个问题也答不上来，就说明AI转型还有很多工作要做。今天的AI已经能够帮助管理者思考复杂问题。如果我们仍然只让它写文档、处理报销，就远没有发挥出它的能力。

这也是我和零一万物团队正在探索的方向：让AI成为CEO的得力助手、企业的决策中枢，帮助企业改善财报。

这次采访，我们也聊到了近期热议的AI安全问题、工作将如何变化，以及为什么我看好中国在AI原生硬件上的机会。

以下为专访中文整理稿，分享给大家。

01

前沿AI的安全讨论

不应让企业放慢转型脚步

彭博社：正如我们刚才提到的，最近国际AI圈出于对前沿技术安全性的担忧，呼吁放缓人工智能研发步伐。接下来，让我们听听嘉宾的看法。谈到AI的发展，恐怕很少有比李开复博士更合适的人选了。他今天来到我们的演播室。很高兴见到您。

李开复：很高兴见到你，David。

彭博社：想请教您的问题太多了，我一时都不知道从哪里开始。先不讨论谁对谁错，看到美国科技公司高管提出要控制前沿AI的发展节奏，您认为他们是出于什么考虑？

李开复：我猜测，他们的实验室里可能已经产出了非常强大、同时又令人担忧的技术。一旦发布，可能会带来问题，比如被不法分子利用，引发网络安全风险。这只是我个人的推测。所以，我相信他们是在郑重地向世界传递一个信号：AI已经具备了超级智能。那么，我们应该怎么办？这才是需要回答的问题。

彭博社：这应该由谁来负责？主要依靠处在技术前沿的企业吗？监管能发挥作用吗？应该由监管机构介入，或是委托给最了解技术的人？

李开复：如果要监管，监管机构就必须要加速跟进，因为通常的监管节奏赶不上AI进步的速度。在监管机制建立之前，我认为，由企业共同讨论应对思路，并加强自律，或许是一个合理的解决办法。

彭博社：站在中国AI生态的重要参与者的视角来看，您认为这是否会影响中国自身的AI战略和AI实验室的研发节奏？

李开复：当下提出这些控制AI发展主张的是全球排名第一、第二的模型背后的美国公司。反观中国AI企业公司更关注开源模型和应用开发，更注重商业化。虽然两个市场的关注点有所不同，但是我相信，大家都希望做正确的事。

与此同时，我反而认为产业千万不能放慢脚步，AI 模型已经变得相当聪明了。这其实是在给企业敲响警钟：如果你还没有开始使用AI，或者我们假设AI已经发展到第十代，而你还停留在第二代，那么，即使第十代AI可能带来风险，至少跟上第七代、第八代的AI是必须的。

02

智商300的AI

别只让它查资料、订机票

彭博社：没错。您刚才的主题演讲也谈到了这一点，在您的新书《AI未来已来》（《AI Native》）里应该也有讨论，我们稍后会聊到。如果放缓前沿AI的研发步伐，相关企业会不会放慢算力和基础设施建设、减少资本投入？毕竟，AI领域已经筹集了大量资金。未来还会有这么多资金进入AI领域吗？企业还会继续大规模投入吗？

李开复：我认为，GPU最主要的用途将是推理，而非训练。推理需求还会继续迅猛增长，因为大多数人远没有充分利用AI。现在，AI主要被用于一些外围任务，比如聊天机器人、算命、写文档、审核报销。这些都是小事。

如今市面上最领先的AI，无论是来自中国还是美国，虽然可能还没有达到所谓的“超级智能”的水平，但是也足以媲美一个智商高达300的天才。试想一下，如果这样一个人来到你的公司，你会只让他做客服？还是选择让他成为你的合伙人，帮助你把公司经营得更好？

因此，我认为企业AI转型应该成为“一号位工程”，由CEO亲自推动，让AI成为辅助经营判断的思考伙伴。这正是零一万物正在推进的方向：打造面向企业一号位的AI决策中枢，帮助CEO更高效地经营公司，也是我在《AI未来已来》一书中探讨的内容。

彭博社：几乎每一位接受我采访的CEO都会这样说：“我们已经制定了AI战略，正在推进，而且它的优先级很高。”但AI技术日新月异，我们难免会想：CEO们是否都充分理解自己正在谈论的技术？您有什么建议？AI转型应该从哪里开始？

李开复：我认为，应该问这位CEO两个问题。

第一，你是否正在用AI经营公司？通常，答案会是“没有”。

第二，AI 给你的季度财报带来了什么变化？通常，得到的回应是沉默。

如果这两个问题都得不到正面的回答，就说明他们在AI转型上还需要做得更多。

彭博社：从企业采用AI的情况来看，您认为中国企业在应用AI、将技术融入企业DNA方面，是否做得更好？

李开复：我认为没有。目前，美国企业在应用AI方面领先。不过，一旦我们能够证明AI可以改善企业利润，这种情况就会大大改变。

03

为什么这一次

白领比蓝领更早面对AI

彭博社：听到Anthropic的CEO谈论AI令人担忧的一面，我想，CEO们也一定在考虑风险管理。他们也会想：“所有这些新技术，我都应该采用吗？”您建议用什么框架来判断？

李开复：我认为，这是两个不同的问题。Anthropic担心的是AI失控，但那要在下一代AI上才有可能发生。大多数CEO连上一代AI都还没有真正用起来。对他们而言，这种风险目前还没有那么迫切。未来会成为值得关注的重要问题，但现阶段并非如此。

CEO眼下更应该关注的是，智能体通常无法承担责任。它们没有自我意识，也没有内在动机，无法像人一样通过奖惩来约束。它们可以完成任务，但一旦出了问题，谁来负责？因此，即使是用于辅助CEO决策的AI，也必须明确自身的职责边界。它不能代替CEO作出重大经营决策，因为一旦出了问题，董事会必须能够追究具体负责人的责任，必要时将其解雇。

重大事项必须有人承担最终责任。而且，这位负责人不能事事听从AI，最后只负责承担后果。他必须懂得如何管理和驾驭AI，能够识别问题，并在必要时及时叫停。这对人的思辨和判断能力提出了更高的要求。

当然，AI智能体也可以完成很多简单任务，比如在网上查找资料、购买机票。这类任务通常只需要设置基本的安全措施，例如限制token消耗、限制资金支取额度，防止它无限使用资源或取走账户里的全部资金。在这些明确的边界内，负责具体任务的智能体可以自主执行。IT部门有能力建立相应的管控机制，让处理日常简单任务的智能体自主完成工作，避免造成重大损失。

彭博社：IT部门是否清楚该采取哪些措施，才能管好智能体？我们是否能够信任他们的判断？

李开复：从实际情况看，IT部门通常具备这样的能力，企业也可以聘请外部专业人员协助。因此，这在现阶段通常不是一个大问题。我更担心的是，如果只是让AI处理这些执行层面的具体任务，就很难给企业整体经营带来显著改善，AI必须走入核心业务。

彭博社：那么，我们应该如何看待就业和人力资源的变化？像您和我这样的人，距离被智能体替代还有多远？

李开复：如果把经济看作一块大小不变的蛋糕，那么，大多数人确实已经很接近被替代了。但这块蛋糕会继续变大。未来五年，我们将把GDP规模扩大到现在的数倍。随着经济规模扩大，人们可以从事的工作也会更多。

人们可能需要转向新的职业，更多从事需要与他人建立联系的工作，也可以选择那些无法按既定方法得出答案、需要灵活变通的工作。另外，我认为，相比大多数白领工作，蓝领工作被替代的时间还会更晚一些。

彭博社：为什么？

李开复：因为目前机器人还无法充分发挥AI的能力。具身智能和机器人技术还需要几年时间。但能够承担大多数脑力劳动任务的AI智能体，如今已经出现了。

04

“AI时代的iPhone”会来自中国

但它不会是一部手机

彭博社：既然您提到了具身智能，我们也来谈谈人与技术的交互。对大多数人来说，我们主要通过手机表达需求、体验新技术，当然也会用到笔记本电脑。这些设备是否限制了我们应用AI的能力？从更长远的角度看，人与AI的交互方式会发展到什么新阶段？

李开复：手机和电脑会继续被使用，但它们原本是为其他交互方式、应用和用途设计的。这些传统设备并非最理想的AI载体。理想的AI设备应该以语音交互为主，始终开启、持续聆听。这样就不必经过一连串按键操作，才能向智能体下达指令。

当设备能够始终开启、持续聆听，并以语音交互时，它还将拥有无限的记忆，保存听到的所有信息，体积也会越来越小。但是这也会引发一些担忧的声音，可能会使这类设备在某些国家难以普及。但我认为，中国可能会更积极地推动这类装置的创新和研发，并从中获得优势。因此，中国更有可能创造出“下一个iPhone”。不过，它不会是一部手机。

彭博社：它会是一个实体设备，还是小到看不见？我们可以随身携带它吗？距离这样的产品还有多远？听起来有些像科幻故事。

李开复：这已经不是科幻了。创新工场投资的一些公司，正在开发体积很小的设备，可以做成胸针或腕带。

彭博社：也就是说，它会越来越不显眼，对吗？

李开复：对，但还不至于看不见。当然，它也可以是眼镜、手表等形态。

彭博社：我们应该如何看待这个领域的竞争？您提到中国可能在这方面领先，美国也在推进自己的探索。

李开复：我认为，中国在制造、供应链、成本管理和硬件迭代速度方面更有优势。无论是机器人，还是其他硬件设备，都是如此。iPhone诞生时，只有美国具备所需的软硬件系统设计能力，因此，那个机会属于美国。

但今天，中国已经具备同等、甚至更强的能力，再加上更强大的硬件制造生态，能够更快地完成产品迭代。因此，我认为，AI原生设备极有可能来自中国。

彭博社：回到竞争这个话题，我们是否一定要从竞争的角度看待中美AI的发展？您熟悉两边的情况，而我们似乎总在追问谁领先、谁落后。媒体如此，企业如此，政府也是如此。我想知道，我们是不是把注意力放错了地方？

李开复：这种讨论很难避免。这是大多数媒体和公众最想讨论的问题。世界上两个强大的国家之间，也自然会面临“修昔底德陷阱”。

但我认为，从实际发展来看，美国会在许多领域领先，例如企业AI、商业变现，以及突破性技术和模型研发。中国则会在其他领域领先，可能包括消费级应用和AI设备。因此，两国都有充分的空间取得成功。

我更担心那些较贫穷的国家：它们无法获得AI带来的巨大经济增长，劳动力所承担的工作却会逐步被替代。这才是值得关注的问题。

彭博社：中国AI公司能否实现盈利，您怎么看待这一点？

李开复：盈利始终是一个需要回答的问题。比如，大语言模型采用开源模式，就很难直接变现。零一万物正在打造面向CEO的企业AI决策中枢，并以合理的价格向客户收费。我们预计在明年某个时候实现盈利。

彭博社：非常感谢您的分享。