奥特曼的“上帝情结”：TED创始人质疑他为何有权塑造人类未来

作者 | Steve Rosenbaum

译者 | 核子可乐

策划 | 褚杏娟

“山姆，考虑到你所参与创造的是一项将要重塑我们整个物种命运的技术，那么你做这件事的伦理依据和权威性来源是什么？如果你搞错了，又打算如何承担这份责任？”

这个悬而未决的问题面了本届温哥华 TED 2025 大会的一根利刺，亦是 TED 创始人克里斯·安德森向 ChatGPT 缔造者山姆·奥特曼发出的终极一问。可讽刺的是，这个问题并非来自安德森本人，而是由 OpenAI 家模型的竞品 Claude 所提出。现场的紧张感与焦灼氛围由此可见一斑。

奥特曼的回应则是，“咱们聊了半个小时，你问的一直都是这类问题。”

这番回应巧妙地转移了对话。此次对话犀利地指向我们拥抱 AI 未来的各项弊端——那些被提出、被承认，之后又被巧妙回避的棘手难题。

看着这场问责大戏在舞台上推进，观众们深深被它揭示出的 AI 时代权力形态所震撼。这位掌控着周活用户高达 5 亿、规模甚至超过北美总人口的科技主宰，竟然无法直接回答这份权力来自哪里。

“这是无可避免的现实”

奥特曼平静地宣称，“这是无可避免的现实。就像一项全世界都已知晓的基础物理发现，必将成为真实世界的一部分。”他的证据仿佛在描述明天太阳还会照样升起。“我们必须谨慎地予以接纳，但要注意消除恐惧，否则我们会被其他借 AI 之力而变得更强之人所击败。”

而他话语中的宿命论也直接终结了这个意义之问。既然一切无可避免，那又何必还要寻根问底？而如果抗拒 AI 技术意味着被“击败”，那我们自然也就别无选择。

这种思维方式——即 AI 的飞速发展并非出于个别人的选择，而是自然规律的体现——巧妙免除了奥特曼及其同行在技术开发期间逐渐脱离普通民众的现实责任。

但安德森并没有就此放过他。“问题在于，我一方面认为可能需要安全机构的介入，但另一方面却意识到机身本身恰恰就是风险的来源”，同时强调奥特曼在监管问题上存在立场冲突。

安德森引用了托尔金在《魔戒》中关于腐败的比喻，认为这个例子如今在硅谷正真实发生，“埃隆·马斯克有说法，认为你已经被力量之戒给腐蚀了。看到科技企业的 CEO 们权力越来越大、掌握的财富越来越丰厚，每个人都在想，他们真能驾驭这一切吗？还是说，他们已经被这股力量所吞噬？”

奥特曼的回答意味深长。他并没有直接为自己开脱，而是将问题抛回给了安德森：“那你觉得我做得怎么样？特别是跟那些掌握了巨大权力，而且行事风格一变再变的 CEO 相比？”

这番话巧妙地扭转了局面，强迫安德森在直接批评对方和就此罢休之间二选其一。安德森则选择了一条中间路线，承认奥特曼个人的行为还算得体，但同时也强调了更大的担忧：“我认为人们最担心的是 OpenAI 公开转向盈利模式。有些觉得这代表着你已经被欲望侵蚀了，催动你在潜在经济效益被耗尽之前努力榨出每一分收益。”

这番对话也揭示出 AI 时代下我们普通人身处的困境：被迫信任科技领袖的个人品质，但他们的企业架构和激励机制却越来越倾向于赤裸裸地追求利润和权力。

“它会彻底了解你”

在这段对话当中，最令人毛骨悚然的桥段也许来自奥特曼对于 AI 未来愿景的表述：“它将陪伴人的一生，观察你与 ChatGPT 的所有对话。也许有一天，如果大家愿意，AI 会随时倾听你的声音、观察你的一举一动。它会彻底了解你，成为你的延伸、你的伙伴，成为努力帮助你做得更好、发掘所有潜能的存在。”

安德森将此比作电影《她》中的情节，片中 AI 会阅读主角的所有电子邮件、代表他做出改变人生的行动。奥特曼并不反对这样的联想。

奥特曼轻描淡写地描述了未来 AI 系统监控我们的具体方式——“观察你的一举一动”，这暴露了其观念与大多数人抗拒持续监控这一现实的根本性脱节。在这个对于技术意义愈发抵触的新时代，“如果大家愿意”这个前提已经显得空洞而无力。

父母悖论

安德森问起成为人父是否改变了奥特曼对于潜在风险的观点，并提出了一个思维实验：如果按下一个按钮，你的孩子就能拥有精彩的人生，但同时有着 10% 的毁灭概率，你会怎么选择？奥特曼立即回应，“问题是并没有这样的选项。当然，如果把场景换到工作这边来，那我的答案是，应该不会按。”

个人风险承受能力与专业风险接受能力之间的脱节，体现的正是 AI 开发中最核心的认知失调。奥特曼绝不会接受自己的孩子承受 10% 的毁灭风险，但 OpenAI 的工作却在给全球数十亿儿童塑造一个充满未知的未来。

正如他所说，“我以前真的很在意这些问题，比如不要搞到世界毁灭。现在我也仍然在意，跟有没有孩子并无关系。”

但在意归在意，他也从来没有放慢过推进的脚步……

开源冲突

奥特曼自豪地宣布，“我们将要开发一套极其强大的开源模型。也许在座的某些人会以你我不喜欢的方式加以使用。”

这种对于强大 AI 模型可能造成的危害表现出的漫不经心态度，与奥特曼之前对于安全的强调和口头认可形成了鲜明对比。结合科技行业，这就相当于“有些会可能滥用我们即将发布的核发射代码，但我们的创新成果就是这个样子。”

安德森指出了这种矛盾，并询问 OpenAI 内部如何为防范危险 AI 能力被公开而划定“红线”。奥特曼提到他们拥有“准备框架”，但没有具体说明——唯一可以肯定的，就是公众对于这套框架的定义和执行都没有任何发言权。

“关于 AGI，不同的人在不同的时间点上会有不同的定义”

在被问及如何定义通用人工智能（AGI）时，奥特曼透露了一个惊人的现实：“如果让 10 位 OpenAI 研究人员坐在一起讨论这个定义，得到的答案可能都不止 10 个。”

安德森一针见血地指出了问题所在：“但这很令人担忧，不是吗？毕竟这是我们的使命所在。我们希望率先实现 AGI、承诺会安全达成目标，但我们甚至一直没能找到能清晰描述这个目标的定义。”

这段对话暴露出了 OpenAI 的核心矛盾：他们正在追求一个定义不明确、甚至可能给整个人类族群带来灭顶之灾的目标，但同时又向公众保证会“安全”达成。

接下来，我们该何去何从？

最发人深省的一点在于，安德森建议召开一场小型专家峰会，为全球制定 AI 安全标准。奥特曼又是怎么回答的？

“当然，但我更关心的问题是，数亿用户作为整体到底想要什么。”

这听起来非常民主，但相信很多人都能感受到其中的误导性。用户“想要”的只能是明确给出的选项，而非充满主观发挥空间的随机路线。人们也会“想要”抽烟，但直到几十年后才慢慢意识到这对健康造成的严重摧残。

现实在于，我们无法通过投票来决定奥特曼和他的同事们应不应该做出这些重大决定，毕竟他们已经自封为人类技术命运的负责人。

安德森就此评论道，“我不知道该说什么了。非要评论的话，我觉得你让我心生敬畏，毕竟你打造出了世界上最令人惊叹的成果之一。”

相信更多朋友感受到的会是恐惧。不是恐惧奥特曼本人，毕竟他看起来真诚且睿智，始终希望做好正确的事；真正令人恐惧的是这套制度，它允许少数技术专家做出事关全球的决策，他们贸然实施着缺少法理性来源的行动，但行动的后果却由投资者和全体用户来承担。

所以这场对话中最重要的问题始终悬而未决：山姆·奥特曼或者其他什么人重塑人类命运的伦理依据和权威性来源是什么？这种法理来源的缺失令人不安，但我们却已经在懵懂之间走了很远、走到了现在。

附：奥特曼观点总结

AI 对于就业和创意产业的影响

• AI 对就业的影响：山姆总结称，关于 AI 对就业的冲击，人们普遍抱有两种观点——要么担心自己被取代，要么只是将 AI 视为一种新型工具，在提高市场对于产出的期待的同时也赋予了从业者们更强大的能力，帮助他们取得愈发精彩的成果。

• 创意作品、知识产权以及向创作者付费：山姆表示，人类的创造力至关重要，并承认目前在知识产权、合理使用与知情同意等方面存在挑战。他提出了新的商业模式，希望让那些在风格层面启发了 AI 生成内容的创作者们能够拿到公平的回报。

开源与 AI 竞赛

• OpenAI 对于开源和 DeepSeek 的态度：山姆承认 OpenAI 拥抱开源较晚，但证实公司目前正在开发一款强大且领先的开源模型。他还提到，尽管不可避免会遭到一定滥用，但开源模型确实意义重大。

• AI 已经掀起一波发展竞赛：山姆并不认可 AI 已经沦为不负责任竞赛的说法，他声称大多数 AI 厂商都真心关注安全问题，并强调即使是在竞争压力之下，OpenAI 也始终在以谨慎态度规划并处理安全问题。

打造卓越 AI 产品

• 专注于产品而非模型原始能力：山姆指出，未来会涌现出大量先进的 AI 模型，但 OpenAI 一直优先考虑创造最佳用户体验，并强调实现个人记忆等功能，尝试随时间推移愈发了解用户以保证 AI 更加实用。

预期的 AI 突破

• AI 驱动下的科学发现：山姆表示，下一个重大突破将来自 AI 在科学领域的应用，包括在对抗疾病方面的重大进展，并有可能发现室温超导体等新材料。但他同时指出，物理学理论方面的突破则可能需要更长时间。

• 自主软件开发：山姆提到，由自主软件编写智能体驱动的软件工程领域，也即将迎来另一个重大飞跃。

对于 AI 安全的担忧

• 强大 AI 带来的严重风险：山姆公开表达了对于 AI 滥用的高度担忧，例如生物恐怖主义、网络安全威胁以及 AI 可能获得人类无法控制的自我改进能力。

• OpenAI 的安全准备框架：山姆描述了 OpenAI 在发布 AI 模型之前用于系统识别的结构化方法与风险管理机制，但也承认公司内部对于具体安全策略仍经常发生分歧。

• 公众焦虑与生存风险：山姆认为公众对于 AI 生存风险的担忧是合理的，但认为从古至今，社会一直是通过经验加谨慎调整、而非排斥和恐惧来适应新的技术。

定义和监管高级 AI

• 定义通用人工智能（AGI）与 ChatGPT 的当前能力：山姆澄清称，ChatGPT 并不能算 AGI，因为它还无法自主学习、自我改进、发现新的科学知识或者独立执行复杂的在线任务。但他承认，随着 AI 变得越来越智能，其具体定义也将有所不同。

• AI 监管与许可：山姆改变了之前的立场，由支持政府就高级 AI 发布许可转为推荐使用外部安全测试框架，以确保强大的 AI 模型在公开发布前接受认真评估。

个人观点、批评与责任

• 公众对于山姆本人和 OpenAI 的看法：山姆承认 OpenAI 从完全开放转向部分商业化的决策在公众中激起了一定非议，同时坦言策略转变也是无奈之举，但重申了承诺，即以安全方式发布强大 AI 成果。

• 对于权力和腐败的批评：山姆否认自己被 AI 成功所带来的财富或者权力所腐蚀，并表示他自认为并没有改变，强调 OpenAI 的战略转型是统筹 AI 发展的合理举措。

• 身为人父对于山姆思维的影响：山姆分享道，身为人父对他个人产生了深远的影响。他不觉得自己从事的 AI 工作会给孩子未来带来风险，但承认自己感受到了更大的责任，希望能给孩子塑造一个更积极的未来环境。

关于 AI 的社会决策

• 广泛收集用户反馈还是依托精英峰会：山姆更倾向于从 OpenAI 的数亿用户处收集 AI 安全偏好，而非仅仅依赖小型专家峰会。这表明 AI 自身有助于更准确地反映公众的价值观和偏好。

对于下一代人的展望

• 山姆后代将迎来的世界：山姆描述了一种新的未来，即孩子们打出生起就在接触经人类更聪明的 AI。他还展望了持续创新、资源愈发丰富且无缝融入日常生活的智能 AI 新形态，期待未来几代人清晰意识到人类局限性的终结并坦然接受这样的现实。

https://x.com/btibor91/status/1910815598004535512

https://stevenrosenbaum.medium.com/sam-altmans-god-complex-ted-s-chris-anderson-asks-who-gave-him-the-keys-to-humanity-s-future-97276e8d38ae

AICon 2025 强势来袭，5 月上海站、6 月北京站，双城联动，全览 AI 技术前沿和行业落地。大会聚焦技术与应用深度融合，汇聚 AI Agent、多模态、场景应用、大模型架构创新、智能数据基建、AI 产品设计和出海策略等话题。即刻扫码购票，一同探索 AI 应用边界！

今日荐文

你也「在看」吗？