曾给AI热潮泼冷水，诺贝尔经济学奖得主达龙再提醒：别把思考交给AI

整理丨狮子侠

编辑丨小龙 子钺

首图丨诺贝尔奖得主、经济学家达龙·阿西莫格鲁

2026年3月，“AI教父”、2024年诺贝尔物理学奖得主杰弗里·辛顿（Geoffrey Hinton）在一场访谈中提出一个令人不安的论断：数字智能从根本上优于生物智能，人类最致命的弱点在于，当你死去，你的知识就随之消亡。而AI拥有上万个“分身”，只要一个分身学会了新知识，所有分身瞬间同步。这就是为什么AI超过人类是不可逆的物理规律。

当人们恐慌AI会不会挣脱控制时，辛顿冷静地回答：“它不需要长出手脚。只要它学会了如何操纵、说服人类，它就能让我们心甘情愿地替它干活。”

技术变强，不意味着人更有自主权。另一位2024年诺贝尔奖得主、经济学家达龙·阿西莫格鲁（Daron Acemoğlu，以下简称达龙）关注的是另一种风险：我们是否正在把判断和思考交给AI？

他质疑的不是AI能有多强，而是这股力量究竟被用来替代人，还是增强人。在与西蒙·约翰逊合著的《权力与进步》中，他提醒，技术进步不会自动带来共享繁荣，关键在于技术由谁主导，又为谁服务。

2024年，他曾给AI热潮泼过一盆冷水：按照当时的证据和模型估算，AI未来十年带来的全要素生产率累计增幅不超过约0.66%。模型能力的突破，不会立即转化为整个经济的跃升。

近期，达龙参与一场播客访谈，他提醒，AI可以辅助研究、检查文章，却不应替人完成思考。尤其对学生而言，让AI直接代写、解题，看似提高了效率，却可能绕过形成想法、组织论证、犯错和修正的过程。而这些，恰恰是能力形成的关键。

AI越强，人越不能忽视扎实的学习。达龙的建议很具体：学数学、物理、经济学和工程，同时培养适应变化与AI协作的能力。不要因为模型能解难题，就觉得自己不必再学——在他看来，没有扎实基础的创造力，本身就是个矛盾的说法。

以下是创业邦对本场对话的翻译精编，Enjoy!

AI能力狂飙，经济为何还没起飞？

主持人：你在2024年说过，未来10年，AI大概会让美国GDP增加1%，只有5%的任务能够完全自动化。现在到了2026年，你怎么看这个判断？

达龙：AI就像一头大象，大家摸到的是不同部位。我只是想在讨论生产率的时候，加上一点基本的经济学分析。那个估算已经是两年多以前的事了，当时有很大的不确定性，今天的不确定性甚至更大。不过，这期间确实出现了一些很快的进展，尤其是今年的Agentic AI（代理式人工智能）。如果现在重新估算，我可能会把5%这个数字稍微往上调一点。

但我还是觉得，很多讨论高估了自动化落地的速度。因为自动化本身就很难，把它融入企业和组织也很难。新技术的普及，尤其是需要大量配套投资和调整的新技术，往往既困难又缓慢。这不代表它不是一项能带来巨大变革的技术，也不代表我们不能从中受益。只是我们在判断经济会多快改变、改变得多彻底时，得脚踏实地。

而且，面对任何技术，我们都应该问同样几个问题：怎样使用它最好？它可能会被怎样滥用？最后谁会受益？

主持人：你刚才提到了Agentic AI，有没有什么进展会让你觉得“好，现在我可以把这个比例提高到两位数了”？

达龙：说到AI的影响，编程领域的进展确实非常快。为什么出现这种情况？我觉得，一方面，编程是在办公室里完成的，不需要跟现实中的物理世界打交道。监督编程的人，对AI和技术本身也非常熟悉。还有一点特别重要：编程跟数学、国际象棋一样，有明确的规则。代码要么能运行，要么不能。当你有一个明确的判断标准，能告诉系统“这个答案错了”，强化学习就特别有效。

但在很多职业里，我们没有这样的标准。比如客服，大多数人原来可能都会觉得，它会是第一个被AI完全自动化的职业。现在确实有一些进展，但实际推进起来，非常慢，也有一定难度。我接触过的大多数机构，AI客服系统都糟透了，简直像噩梦。因为客服有很强的人际互动成分。客户提出的很多问题会随着时间变化。同一个问题，不同的人会用完全不同的方式来问。而且还有很多灰色地带和特殊情况，所以事情就变得复杂得多。这就需要人来监督AI，或者跟AI一起工作。更理想的情况是，建立一种更好的协作方式，让AI和人真正互补。

主持人：你觉得以后模型更强了，这个问题就能解决吗？还是说，这是AI本身的瓶颈，没有人参与，它就没办法正常工作？

达龙：我绝不会断言，某件事是AI未来永远做不到的。过去10年，我们已经看到足够多的例子：只要投入足够的资源和数据，AI在很多事情上都能取得进展。问题是，进展能有多快？它能不能在所有领域都做到？如果退一步，你问我：“为什么生产率提升这么少？我们能做什么？”如果只能用一个词概括我的答案，那就是：应用。我们需要更多、更好的应用。

某种程度上，可以提出这样一个看法，当然，我也可能说错了。我不在Anthropic内部，也不在OpenAI内部，不知道他们通过实验和巨额投入，实时学到了什么。这些机构里也确实有很多非常优秀的人。不过，你可以说，美国，尤其是硅谷，太重视foundation models（基础模型）了，对应用的重视不够，对如何把应用真正融入组织的重视也不够。

我们总听到美国领先中国。在大语言模型方面，看起来确实如此。中国的模型有时候也在追赶，但它们借助了美国模型已有的领先成果，可能也用了一些模型蒸馏。不过，我看到中国企业在做一件事，而美国企业做得相对少：它们非常重视把机器人和AI引入生产线。而且，为了解决这个问题，它们投入了大量工程人才。美国似乎没有那么多工程人才，就算有，也都跑去做foundation models了。

主持人：你提到的这个话题特别有意思。我是移民，来到美国以后，有时候看到这里的做事方式，就会问“为什么一定要这样？”得到的回答往往是“历史上一直这样。”或者“没办法，只能这么做。”

达龙：我再补充一点。我不想以偏概全，但有一种倾向值得警惕。在我看来，如果说有什么观念对美国AI行业不利，那就是inevitabilism（必然主义）。也就是觉得：“我们现在走的路，就是唯一的路，根本没有别的选择。你要是连这个都质疑，那你就是个傻子。”

我完全不接受这种说法。AI是一种用途非常广泛的技术，就像所有general-purpose technologies，经济学里简称GPTs（通用目的技术），比如电力、印刷术。这类技术会催生大量其他应用。历史和经济学研究告诉我们，发展这些技术有很多条不同的路，而且不同路径并不是中性的。它们带来的好处不同，付出的代价也不同。所以，觉得我们现在做的就是唯一的选择，或者毫无疑问是最好的选择，我认为是错的。

为什么我们需要更多应用，而不只是更强的模型

主持人：我觉得另一个相关的问题是，怎么衡量效果。我们该怎样衡量AI对个人工作效率、对企业生产率的影响？我在5月跟Erik Brynjolfsson（注：十大“AI派”经济学家之一 ）聊过，当时他们正在做一项研究，发现AI的经济影响基本为零。也就是说，AI本身的能力飞速提升，但眼下的经济影响还很有限。我觉得，技术能力和实际落地之间的这道鸿沟，恰恰是一个很大的机会。你觉得这里也存在衡量上的问题吗？

达龙：他是一位非常严谨的学者，对这个行业的了解，可能比其他任何社会科学家都深。而且，他比我更乐观。如果你问他，到2034年或2035年，AI会对生产率产生多大影响，也就是我当时研究的那个时间段，他的估计会比我更大胆一些。

不过，我理解他的结论是：AI还没有带来大家期待的生产率提升，但以后会有。这一点跟我的看法很接近。我们现在还没看到，但它会发生，只是我认为速度会比Erik预计的慢一点。如果最后证明他是对的，我会非常高兴。而且，相比行业里那些对现状过分乐观的人，我觉得他的判断更有可能是对的。

主持人：那到底该怎么衡量AI对企业，甚至对个人工作效率的影响？

达龙：生产率一直都很难衡量，而且还涉及质量。Erik一直强调的一点，我觉得很对：在过去40年的数字化时代，我们不太知道该怎样衡量质量的变化。这可能意味着，我们低估了一些生产率收益，不只是AI的收益，也包括计算机整体带来的收益。我同意。但问题是，过去汽车变得更好、公路变得更好，我们也不太知道怎样衡量这些质量提升。所以，衡量质量一直都是个难题。

主持人：我觉得到最后，干脆衡量大家幸不幸福好了。

达龙：也可以，这当然也很好。人的生活过得好不好，是非常重要的。如果从这个角度看AI和相关技术，我的评价会更负面一些。我觉得社交媒体对我们造成了很糟糕的影响。它破坏了社区联系，也削弱了人们应对逆境的能力，因为我们越来越少在真实的人际网络里跟别人交往。它还放大了人性里最糟糕的一面，因为算法追逐的是愤怒、情绪和嫉妒。所以，我觉得它带来的影响很糟。我希望AI不要重蹈社交媒体的覆辙。

主持人：你说模型已经很强，但缺少应用，这是教育的问题吗？我们还需要更强的模型吗？到底还缺什么，才能让AI给我们的日常生活带来积极影响？

达龙：现有模型已经足够强大，完全可以作为开发应用的基础。利用现在的基础设施，我们能做的事情太多了，而且很多都很可行。

我举几个例子。比如更好的质量控制，用现有模型就很容易做到。再比如，为护士开发工具。美国的医疗体系确实面临危机。我们每花5美元，差不多就有1美元花在医疗上。可你看看实际效果，我们仍然面临严重的公共卫生问题，医疗行业也有很多瓶颈。想象一下，如果护士能更多地参与诊疗过程，参与诊断、处方，以及跟患者健康有关的决策，会怎么样？

阻碍他们这样做的一个重要因素，就是质量控制和信息。只要在现有AI模型之上开发合适的应用，这些支持就很容易提供。当然，护士的培训方式可能也需要调整，也就是说，人员的知识和技能需要同步提升。但真正的瓶颈不是护士的能力，而是应用，是科技行业没有去做这些东西。

教师也是一样。电工也是一样。我们可以给电工提供好得多的工具，这简直就是摆在眼前、很容易抓住的机会。很多蓝领工作，都可以通过AI做得更高效。我们已经在中国看到一些这样的应用。那为什么美国不做呢？所以，瓶颈不是foundation models。对于我们能够开展的大多数应用，甚至去年的模型就已经够用了。

主持人：听起来，很多都是很好的创业机会。

达龙：是的，比如给电工做AI工具。很多时候最基本的活，你都要等上3个星期。好不容易电工来了，又说：“不行，这个新设备我处理不了。”你问为什么？他说：“因为我从来没见过。”这不就是AI可以派上用场的地方吗。

主持人：那教师和医疗领域呢？你觉得应该由政府来解决，还是企业也有机会？

达龙：医疗和教育需要双方，甚至三方配合。因为大多数医疗支出，或多或少都有政府参与，教师这个领域也一样。所以，政府确实可以发挥很重要的作用。但如果是电工、蓝领工人、客服人员、科学家，主要还是私营部门的事。

我说三方，是因为就算把政府排除在外，也还有两方：科技公司，以及使用这些工具的企业管理层。双方都得愿意参与。

我跟一些大公司的CEO和高管聊过。我提到我所说的pro-worker AI，也就是让劳动者更高效的AI，他们会说：“这正是我们需要的，我们支持。”他们是真心的吗？我不知道，也没法检验，因为科技公司根本没把这些工具做出来。

而当我跟科技公司的人说同样的话，他们要么点点头，然后就不再理会，要么说：“你跟我们活在两个世界吧？我们要做的是AGI，你在说什么？”

主持人：他们关心的是很遥远的事情，而不是现在就能解决的问题。你刚才提到给蓝领工人用的工具，也提到了中国。有哪些好的例子？

达龙：我接触过的几家中国制造企业，都在把机器人和AI结合起来，比如富士康、比亚迪，还有其他电动车制造商。它们的技术应用程度都很高。从它们的经验里，我看到一点：这会是一个缓慢的过程，而且需要的工程师，比它们最初想象的多。好在中国有大量工程师。

AI再能干，也不要让它替你思考

主持人：如果正在看节目的创业者，还在决定自己要做什么，你会给他们什么建议？他们怎么选对细分市场？

达龙：先说AGI，这还是个画出来的大饼，连它的定义，大家都没达成一致。它永远在未来，而且说实话，那也是一个我们还无法完全想象的未来。如果你说的AGI，以及更进一步的ASI——Artificial Superintelligence（超级人工智能），真的是指机器能把人类会做的所有事情都做得更好，那我觉得还很遥远，而且那种未来也很可怕。到时候，就连最好的物理学家、数学家，最擅长人际沟通的人，都没有工作可做了，因为AI什么都做得更好。

所以，我不理解的是，关于AI的公共讨论里，有太多自相矛盾的说法。其中一种就是：“AGI太好了，很快就会出现，而且到时候人类还是有很多事情可以做。”这说不通。如果你对AGI或ASI的定义是认真的，那留给人类做的事情就不可能还有那么多。

主持人：我想再深入聊聊AI现在的实际用途。你刚才提到了研究人员，也提到了创业机会。你自己在日常研究中怎么用AI？还有哪些事情可以用它来做？

达龙：我得承认，我用得还不算前沿。我会用AI做背景研究。今年，我也越来越多地让AI挑一挑我写的东西、提出的想法有什么问题。这很有意思，因为最早用ChatGPT3.5，后来用ChatGPT4做这种尝试时，我觉得效果挺让人失望的。现在就好多了。

我也鼓励所有学生和研究助理，为自己的研究搭建一套AI工具体系，用来支持他们的工作，但绝不能替代他们。我不鼓励大家让AI代写，就算英语不是母语，我也不鼓励。因为我觉得，写作这件事应该由自己掌控。

但我会鼓励所有英语非母语的学生，让AI帮他们检查和修改。比如，把自己写的东西交给AI，看看哪些句子意思不清楚，哪些太长，哪些有语法问题。所以，在很多日常、琐碎的事情上，AI已经很好用了。

但我非常担心另一种失去掌控的情况：我们所有人，尤其是学生和学习者，把太多事情交给AI，结果不再锻炼自己的脑子，也不再真正投入学习。我觉得这是一个最重要的问题。我在学生身上经常看到这种情况。从一些研究来看，我觉得AI在中小学教育中的使用，已经造成了相当糟糕的后果，因为我们是盲目引入的，没有任何使用边界。

其实在2023年或2024年，我就说过，在没有任何防护和限制的情况下，一下子把生成式AI推向所有学校，是一场危险的大规模社会实验。因为我们不知道它会带来什么。现在还不能说我最糟糕的担忧已经全部成真，但也差得不远了。

主持人：面对一个问题，什么时候你应该提醒自己，“好了，到这里就停。我得自己想一想，AI只用来辅助”？

达龙：对我来说，情况有点不一样。首先，不幸的是，我属于另一个年代的人。其次，我就是喜欢思考，喜欢拿着纸和笔，把想法一点点写出来。所以，我反而得提醒自己：“把这个交给AI看看。”比如，我从来没用AI做过数学。我应该试试，毕竟AI的数学能力比我强多了。但我就是喜欢自己算。

我写模型、做计算，都是手算，因为我习惯了，而且算得也快，还能从中学到东西。我犯错了，也能从错误里学到东西。不过，如果我重新考虑一下自己的做法，肯定还能更多地利用AI。

主持人：你自己做数学的时候，会不会想到以前关于计算器的争论？当年老师们也反对学生用计算器，但现在大家到处都在用，它让我们能更快解决更复杂的问题。你觉得AI也能带来这种进步吗？还是说，它会削弱我们的批判性思考能力，让我们没办法继续进步？

达龙：我担心的是后一种。拿计算器来类比有一定帮助，但得小心。计算器只能接手其中很小的一部分工作。我没见过谁用计算器替自己思考，也没见过哪所学校跟学生说：“现在有计算器了，你就不用学乘法了。”我上学的时候就有计算器，但我们还是学了乘法和除法。

我简直无法想象，一个人如果连这些都不会，会怎么样。这些是后面很多知识的重要基础。求导也是一样。如果你不懂微积分，怎么继续往下学？

主持人：对，关键是它接管的能力范围有多大。计算器基本就只有计算这个功能，AI涉及的却是整个批判性思考过程。

达龙：没错，是整个批判性思考过程。而且，边界非常模糊。你使用AI，到哪里应该停下来？你跟AI合作的时候，怎么确保自己仍然参与了创新和创造中那些关键的步骤？

公司用AI取代工人时忽略了什么？

主持人：我在X上看到很多帖子，比如“我把整个团队都裁了，换成agent”，从长期来看，这些企业和个人这样做，会忽略什么？

达龙：我先澄清一下我的立场。这是基于我对机器人，、20世纪初的技术、工业革命的研究，以及我做过的理论研究。我不反对自动化，也不觉得我们能阻止自动化。我们需要自动化。如果有人想让自动化倒退，我会反对。我们可不想回到靠肩膀和后背搬重物的年代。

自动化是好事。问题是，我们是不是只做自动化。如果是这样，第一，我们没办法充分提高生产率，因为不是所有事情都能轻易自动化。第二，我们没办法让大家共享繁荣，因为大量工作会消失，却没有新的、有意义的、高薪高效的岗位来给人们创造机会。

所以，我一直想说的是，技术既要用来做自动化，也要用来做其他事情，两边要平衡。我一直认为，数字技术给我们提供了很多机会，可以创造新的、由人来做的事情。到了AI，这一点就更加明显。所以，我希望AI用于自动化，但同时，我们也要用AI创造新工作，比如让护士、电工做更多事情，或者创造一些我们现在连想都想不到的职业。

主持人：如果一个小企业老板，唯一关心的指标就是利润增长，你会怎么跟他解释？从经济账上看，这样做有什么好处？

达龙：生产率。根据我的经验，当然，他们也可能只是嘴上说说，可能是在客气地附和我，或者是我把他们说服了，但大多数企业其实都明白这一点。不是所有企业，但大多数都明白：员工是你最重要的资产。想象一下，如果他们能做得更高效，对企业来说多好。而且，这笔账其实更划算。

假设你有100名员工。我告诉你，有两种选择：一种是把5%的岗位自动化，让这部分岗位的成本减半；另一种是让所有员工的生产率提高5%。后者给你带来的收益会大得多。

主持人：而且，你的竞争对手也会推进自动化。如果你只是把人裁掉，最终生产率会受到影响。

达龙：对。员工有很多经验。如果你过去是个好老板，他们当中很多人对工作、对企业也有很强的责任感。如果你能让他们更有创造力，更擅长解决问题，更擅长做新的事情，这样的企业才会成功。我反过来问你，过去那些企业，你记得哪些？你可能会说一些大家都熟悉的名字，比如福特、通用电气、通用汽车。

主持人：我最先想到的是IBM、微软。

达龙：它们有什么共同点？它们都做出了新的东西，而不是只削减成本、照着别人已经做过的事情做。它们想到了新的市场、新的技术、新的工作。福特汽车创立者Henry Ford就说过一句话：“如果我问消费者想要什么，他们会告诉我，想要更快的马。”成功的企业需要的就是这种能力。把成本削减5%，可不会让你被写进历史。

主持人：那在自动化这件事上，你有没有什么判断原则？你提到5%的任务可以自动化，那怎么判断一项任务什么时候该自动化，什么时候不值得做？

达龙：如果你把成本降低5%，通常它对GDP的提升，就是5%乘以你在GDP里所占的比重。这笔账不难算。难的地方在于，第一，如果服务或产品质量也发生了变化，事情就更复杂了。

第二，就算你几年后能把成本降低5%，为了实现这个目标，你也得付出很多努力。我看到一些企业一头扎进自动化，有的是觉得这件事很容易，有的是觉得外部压力太大，不做不行。最后却做不成，因为自动化并没有那么简单。你得把它真正融入企业。

现在很多人开始说，AI存在Jagged Frontier（锯齿状前沿）。我喜欢这个比喻，但有时候，这也是一种委婉的说法，实际意思是：“我们高估AI了，做起来比想象中难得多。原来以为有了AI就能裁员，结果不行。”如果你真的认真对待这种能力边界参差不齐的情况，就意味着：“好，那员工数量基本还得保持不变，现在又加上了AI，变成一套人和AI混合工作的系统。”

AI越强，人越该学什么？

主持人：我们再聊聊教育。你在大学工作，你觉得10年后，花那么多钱上大学还值得吗？

达龙：我觉得值得，但得先说几个前提。首先，我从来不认为所有人都应该上大学。现在，不管从经济还是社会角度看，我都更确信这一点。每个人的能力不同，兴趣也不同。我们都应该终身学习，但传统的liberal arts education（博雅教育），并不适合所有人。社会也不需要每个人都拥有完全一样的视角。

第二，大学提供的很多价值，也是一种向外界传递的信号。你去Harvard、MIT、Stanford，也是在为这个名字付钱。这对你个人有好处，但对整个社会未必那么好。

第三，现在每所大学都意识到，必须改变自己的运营模式，改变提供教育的方式，也都在寻找到底该重点培养哪些技能。我了解得很粗浅，但我的感觉是，大学已经明白这一点了。可你知道吗？初中和高中其实也面临同样的问题，但它们还没有充分意识到，落后得更远。

在美国，我经常看到，很多学生进大学时，根本没有做好准备。这个问题还会恶化，也会让大学的工作更难。我写过面向大学一年级学生的经济学教材，所以知道很多学生的基础有多薄弱。而且，这种情况在AI出现之前，就已经越来越严重了。因为高中教育做得不够好，越来越多大学不得不开设更多补基础的课程。现在我们手里的证据，当然还处在早期，以后也可能变化，但目前的证据显示，AI让初中和高中的学习变得更困难了。所以，这个问题可能会进一步恶化。

主持人：完全同意。如果从一开始就让AI帮你解所有题，上大学之后只会更糟。那大家应该做什么？应该学哪些技能？你是否同意，为了掌握这些技能，我们反而需要更多扎实的学科知识？

达龙：因为我不相信真正的AGI已经近在眼前。我觉得，我们比以往任何时候都更需要人的创造力。而没有扎实基础的创造力，本身就是个矛盾的说法。如果有人想听我的意见，当然，我不是最有资格给这个建议的人，我不是数学家，也不是计算机科学家，但如果你问我，我会说，去学数学。不要因为Astra能解很难的数学题，就觉得自己不用学了。我们需要人类的数学知识，也需要人类成熟的数学思维。

去学物理，去学经济学，去学工程，我觉得这些都很好。但也要学会灵活应变。我们会非常需要这种能力，因为就算一直从事同一个职业，随着技术变化、社会环境变化，我们也经常需要调整自己做的事情。这些都非常重要。而人的聪明才智和创造力，在未来10年会起到关键作用。

主持人：对，还有一点特别让我有共鸣：我们要把不按直线发展的职业道路看成常态。我自己就换过职业。我觉得，一生中转几次方向，会成为新的常态。

达龙：还有两个原则，我觉得也非常重要，至少从初中开始，我们就应该教给学生：第一，当然要学会跟AI一起工作、跟AI协作。第二，更要强调公民责任。在美国，以及世界上很多地方，我们已经失去了真正的社区意识，失去了关心公共利益、为大家共同的利益做事的意识。而到了AI时代，这反而更加重要。首先就是了解信息，主动参与。

主持人：其实应该从小学就开始。

达龙：对，完全可以从小学开始。我们可能过度鼓励了自私，也可能通过社交媒体和其他东西，鼓励人们躲进自己的茧里。我们还可能贬低了社区生活中一些非常重要的东西。这也是我那本讨论liberal democracy（自由民主）出了什么问题的新书里，一个很重要的主题：我们真的需要把社区重新放回liberal democracy社会的中心。

我不是一个乐观主义者，但也绝不是悲观主义者。我努力让自己保持希望。有两件事让我觉得有希望：第一，人类的适应能力几乎没有上限。第二，就算世界已经如此两极分化、如此撕裂，不同政治阵营的人，对公平和道德，其实仍然有很多相似的理解。只是这些共同点，需要在沟通中更清楚地表达出来。我们也需要停止把另一边当成敌人。就算存在最深的分歧，也要记得一个前提：我们是在同一条船上。

比AI失控更值得担心的，是人失去自主权

主持人：我们聊了这么多，但这时候Dario会说，AI有25%的概率把事情搞得非常糟。你听到这种说法会怎么想？尤其是说这话的人，很快就要推动公司IPO，也需要证明自己的技术能带来巨大的变革。

达龙：如果顶尖AI实验室的人担心AI可能带来某些后果，他们当然应该说出来。我欢迎他们发声，也赞赏这种勇气。但比起Dario、Elon Musk，或者Claxon所说的existential risk，我更担心整个社会逐渐失去对AI的掌控。

我说的失去掌控，是普通公众、劳动者、学生、家长，因为AI而失去自主判断和行动的能力。不一定是因为AI变成了超级智能，成了一个独立的存在，也可能部分是因为企业和前沿实验室开发、使用、推出AI的方式。所以，我非常担心这种失去掌控的情况。我们应该讨论这些问题，不能忽视其他风险。

主持人：你之前给AI打过一个分，范围是-10到+10，你给的是-6。我记得是2025年。现在情况比当时更糟了吗？

达龙：没有，我倒不这么觉得。2024年、2025年的时候，我认为AI可能造成很多伤害，但还不清楚，改善它的过程中会遇到什么瓶颈。现在，我觉得进展确实很快。所以，危险增加了，但我们能用AI做的好事，也越来越清楚了。只是我们需要改变它的发展方向，需要给AI掌舵。AI不能只由一小撮人说了算。他们非常聪明，很多人也确实出于善意，但这件事太重要了，不能只交给少数几个人决定。

主持人：那落实到个人，我们怎么推动这种变化？

达龙：信息。我觉得得从信息，以及我们怎么讲述AI开始。接下来这番话可能有点冒险，因为我要批评当今世界最有影响力的信息把关者。但如果你问我，哪些机构最让我们失望，我的答案是：媒体。

媒体在帮助公众了解AI、推动真正有信息基础的讨论这件事上，做得很糟。过去10年一直如此。现在开始慢慢改变了，但很慢，而且很不均衡。过去10年，报道要么把Elon Musk这些人捧得永远不会犯错，甚至任何批评都在进一步抬高他们；所有跟AI有关的东西，都被说得令人着迷、不可思议、美妙无比。要么就把AI当成敌人，说它是stochastic parrots（随机鹦鹉），或者是杀人机器人。中间那种空间一直没有建立起来：让人们参与讨论，理解问题，作为消费者、作为民主社会的公民，真正承担起共同决定未来的责任。几乎所有新闻媒体，都有这个问题。

主持人：我们把时间快进到2035年。如果一切都往好的方向发展，现在每天坐在电脑前工作8小时的知识工作者，到时候典型的一天会是什么样？

达龙：这是个很好的问题。我不知道。我完全能想象一种未来：人们每天少工作几个小时，仍然能保持很高的生产率。我也完全能想象另一种未来，而且很可怕：很多人找不到有意义的工作。

我还可以想象，人们仍然去办公室，或者采用办公室和居家相结合的工作方式，但因为有了真正跟人互补的AI，工作的方式不一样了，而人的创新能力和才华，仍然处于核心位置。

我觉得，就算不考虑AI，我们也生活在一个变化格外剧烈的时代。气候变化、人口老龄化、地缘政治格局变化，还有发展中国家正在涌现的庞大中产阶级。这些变化都需要新的商品、新的服务、新的工作，需要新的市场开拓方式、新的企业组织方式。谁来做这些事？不是AI，是人。如果我们能帮助这些人更有创造力，那就太好了。

AI真正的赚钱机会在哪里

主持人：现在，很多人看到AI创造了惊人的财富，如果有人想参与这种价值创造，你会给什么建议？接下来具体能做些什么？

达龙：说实话，虽然大量投资都流向了前沿实验室，但我还看不出foundation models怎么能赚到那么多钱。所以，我们会看到一些IPO最终表现不佳。当然，不一定是刚上市就出问题，因为现在市场的热情还在。

但我真的看不出来，怎么靠foundation models赚到数万亿美元。模型开发可能会遇到瓶颈，推广普及也可能会遇到瓶颈。而且，就算这些瓶颈都没出现，紧随其后的开源模型也会非常好。所以，变现空间会受到限制。

我认为，真正能赚钱的地方，是高质量数据和应用。这才是我看到的竞争优势。如果你的企业、你的业务里有大量数据，那就好好积累、整理、利用。甚至想办法生成更好的数据，找到收集这些数据的方法。

同时，也要给那些创造数据的员工相应的回报。这既公平，也是明智的商业决策。再去想应用，竞争优势会在那里。如果应用真的有创造性，又满足了某个细分市场的需求，开源项目就更难复制它。所以，我看好这些方向。作为劳动者，你要保持灵活，理解AI，但也要保住自己的创造力和扎实的知识基础。

主持人：对，而且作为员工，你也要意识到，自己就是数据的来源。你已经跟客户打了很多年交道，也在产品上工作了很多年。

达龙：顺便说一句，这也是一个非常重要的点。如果你想开发应用，很多隐性知识都掌握在员工手里。不是坐在办公室、对着电脑，给你一个很强的AI，你就能凭空做出一个好应用。你得走到现场，亲自参与，跟员工交流。

主持人：最后一个问题。你说过，准备去AI公司工作的学生，需要有坚定的道德准则。我觉得，不只是他们，创业者也好，社会中的每个人也好，都需要。你能解释一下，你具体指的是什么吗？

达龙：我举一个其他领域的例子：基因编辑。这也是一项很了不起的技术，而且已经取得了很多重大进展。但我觉得，大多数进入医学领域，或者从事基因编辑相关工作的人，都知道这项技术涉及很复杂的道德问题。很多承担监督职责的机构，从NIH到美国公共卫生署署长，再到医学协会，都发布了基因编辑的一般伦理指南。比如，目前不能做种系编辑，因为太危险了，我们还没有充分理解它，风险也太多。

这就是我认为AI也需要的道德准则，但现在我们没有。大家会说：“我做这些是为了带来好处。”我完全相信他们。我认识的几乎所有进入AI领域的人，都怀着善意，都想带来一些好东西，不只是为自己，也是为社会。但这个领域缺少清晰的道德准则，这才是我想说的。

主持人：这又是一个很值得聊的话题，希望以后有机会继续。非常感谢你。

达龙：谢谢你，聊得很愉快。

本文为创业邦原创，未经授权不得转载，否则创业邦将保留向其追究法律责任的权利。如需转载或有任何疑问，请联系editor@cyzone.cn。