赫拉利最新发言：AI时代真正值得担心的是什么

9月11日上午，2025Inclusion·外滩大会开幕式暨主论坛，历史学家、哲学家、“人类简史系列”作者尤瓦尔·赫拉利发表演讲，他认为，进步不应只以技术进步的速度衡量，而在于人类能否建立合作、信任与共情。本文来源：澎湃新闻

本账号接受投稿，投稿邮箱：jingjixuejiaquan@126.com

赫拉利：真正值得担心的不是技术，而是不顾边界地部署技术

赫拉利表示，人工智能不仅是自动化工具，还是“会行动的主体”，有能力自己做决定，有时甚至能自己创造出全新的想法。

“我并不反对科技变革。但作为历史学者，我对变革的节奏和方式感到担忧，”赫拉利称，历史上变革最大的问题往往不是最终目标，而是通向目标的过程。

他认为，人类是适应能力极强的生物，但需要时间来适应，也需要可靠的机制。每当历史上出现强大的新技术时，社会都要花很长时间去发明与之相匹配的制度与习惯。例如工业化不仅是蒸汽机的故事，还需要公司法、环保法规与社会保障网络等更多配套机制。

“人工智能与所有以往技术的不同之处在于，它触及了社会的中枢神经系统，”在赫拉利看来，人们面临的人工智能危险，“不是一个坏人按一个坏按钮”，相反，危险在于周围悄然发生的无形过程。科幻小说里提到过“机器人叛乱”，但真正的危险更安静且更令人恐惧——决定权从可质询的人类移交给看不见的算法。

“单有速度，不是进步，”赫拉利认为，实现真正的进步，首先是合作。“如果切断与他人的一切联系，仅仅依靠自己，这不会让你更强，最终那会让你窒息。把这个古老的教训带入人工智能时代，意味着建立可验证的全球承诺，而不仅仅看‘谁跑得更快’。”

其次，真正值得担心的不是技术本身，而是为了竞争优势，不顾安全边界地部署技术。他表示，任何真正重塑人类社会的系统，都不应“先上线再治理”。“历史已多次证明，速度和安全可以并存，但前提是我们构建自我修正的机制闭环。一个发达的技术社会，必须有办法及时发现并纠正自身的错误和偏见，这样就能保证快速而安全地运转。”

他认为，如果我们在还没有学会识别和纠正系统不可避免的错误之前，就贸然让人工智能“奔跑”，那么速度的代价，就会让最无力的群体承担。

最后是他认为，人类应该带着记忆前进。赫拉利说，当人工智能开始接管决策过程和构建叙事，我们必须守护人类记忆和讲述自身故事的能力。“如果把记忆托付给非人类智能，我们将一无所有。”

赫拉利呼吁，在人工智能时代，我们必须留给人类足够的时间来保存记忆，建立彼此之间的信任与感情。“衡量进步，不在于技术的速度，而在于我们之间合作的力度和共情的深度”。■

入群可参加全年至少12场精彩闭门研讨