《沙丘》的另类启示：选择智能机器or成为超级人类？| 会议追问

沙漠星球的风沙之中，隐藏着《沙丘》这一科幻巨著的深远寓意。在荒凉中，生命逆境求生的冒险故事，不禁令我们思考：在数字时代，生命的界限何在？

在4月21日，天桥脑科学研究院（Tianqiao and Chrissy Chen Institute, TCCI）在上海图书馆（东馆），聚焦弗兰克·赫伯特的名作《沙丘》中的另类细节，邀请了上海人工智能研究院技术与产品总监方帅、播客“多铆蒸刚”主播徐辰、2023年上海双年展科幻领读人敏捷共同参与讨论，探索智能时代的无限可能。

在会议上，科学家与科幻从业者从智能机器和人工智能意识的觉醒，到人类大脑潜能的深度开发，横跨现实与幻想，碰撞出令人激动的思想火花。本文通过追问形式呈现谈话中的精彩内容，希望能邀请读者一同探索这个由数据编织的全新生命形态，解码未来世界中的“数字生命”，探讨它在科技与人性交汇处的深邃哲思。

超级人类与智能机器

@敏捷

徐辰老师，您能否先从沙丘的背景讲起，尤其是它与超级人类的关系？

@徐辰

沙丘这个作品，我第一次接触是在很小的时候。它非常古典，不是我当时想象的那种太空战争。沙丘实际上是用一种幻想的形式来探讨未来的人类历史，甚至可以说是用考古的方式来讲述一个更古老时代的故事。特别是沙丘里的超级人类设定，非常有趣。

在那部电影的前传中，描述了一场发生在一万多年前的人类对抗机器的战争。在这场战争后，人类决定放弃智能机器，这是一个剧烈的转变。他们选择让自己变得更像机器，拥有快速的思考能力。电影中也展示了几个大家族，每个家族都有自己的“门泰特”，这是电影中的一种特殊存在。

@敏捷

您认为现实中人类与AI的关系应该如何发展？

@徐辰

这个作品其实反映了60年代人们对AI的担忧，这种担忧至今仍然存在。在作品中，AI最终被人类推翻，人类重新担当起原本由机器承担的角色。这实际上告诉我们，虽然AI有其便利之处，但我们不应全然依赖于机器，而应保持一种合作而非对立的关系。

@敏捷

老师们如何看待人类与机器的合作可能性？以及如何看待科技的快速发展与人类思维的局限？

@方帅

我们不应将AI视为威胁，而应考虑如何利用AI增强人类的能力。在当前的技术环境下，AI主要被用于特定的工作场景，比如在工业生产中替人执行危险的任务。这不仅帮助企业节约成本，还能提高效率。

@徐辰

科技的发展速度非线性，经常在某些节点爆发，远超过人类的适应速度。这种速度和人脑的局限性未能对齐，导致许多道德和伦理问题。历史上，从朱利安·赫胥黎（Julian Sorell Huxley）的超人类主义思想到现代，人们一直试图通过技术突破自然选择的限制，探索未来的可能性。

@敏捷

如何看待人工智能的未来发展路径？有人认为未来我们可能朝着成为超级人类的方向发展，老师们对此有何看法？

@方帅

确实，人工智能的应用似乎开辟了两条路径。一条是通过增强智能，使人类变得更聪明；另一条则是强化身体能力。这与整容或使用医疗产品提升外貌和健康有异曲同工之妙。例如，我们可以通过各种方式增强身体机能，使其更有战斗力。而对于智能方面，虽然人类难以与计算机竞争，但我们仍然追求制造足够聪明的机器。从心理学的角度看，这种对抽象思维的过度依赖有时会让我们忘记了身体的感受，从而陷入过度思考而忽略了当下的生活。

@徐辰

在《沙丘》中，门泰特通过摄取一种叫做“香料”的幻想物质来增强思维能力。这其实是科幻作品中常见的一种设定，通过非传统手段增强人类能力。现实中虽然我们无法摄取香料，但科技的发展也许能提供类似的解决方案，例如通过生物技术和医疗手段强化身体和大脑功能。

人机协同的未来

@敏捷

关于人机协同的科幻作品，方老师您怎么看？

@方帅

在科幻作品中，我们经常看到人机协同增强人的物理能力，如穿戴机械装甲等。这种设定实际上与战争有关，因为在历史上战争较多，科幻作品反映了这一背景。

@敏捷

那AI的技术进展和未来趋势会是什么？

@方帅

AI的发展可以从数据层、算力层、算法层到应用层分别介绍。首先，AI需要大量数据来进行学习和生成新的数据，这是基础。然后，生成式AI可以从现有数据中学习规律，并产生新的数据，这对模型质量至关重要。此外，语言处理中，中文和英文的数据库质量差异也会影响结果。最后，掌握数据的人或机构，他们可以获取专业数据，这关系到商业和运营逻辑。

@敏捷

关于这个数据问题，是否意味着拥有更好的数据集可以显著提高AI的性能？

@方帅

正是如此。数据的质量直接决定了AI的输出质量。如果你喂给AI系统的是质量较低的数据，它产出的结果也不会理想。这就像是，你提出的问题越精准，AI给出的答案也越准确。这也解释了为什么有时候同样一个AI产品，使用不同语言询问时，回答的质量会有很大的差异。

@敏捷

看来我们在与AI交流时，提问的方式非常关键。那么在算力层，AI的发展又带来了哪些新变化？

@方帅

算力层的进展同样关键。以英伟达为例，它的GPU大幅提高了计算能力，使得AI的训练和运算速度大幅加快。此外，硬件的发展还影响了AI模型的部署方式，例如，是否使用云计算或本地处理数据。这些选择直接关系到数据的安全性和处理效率。

@敏捷

似乎AI的每个发展阶段都与具体的技术和硬件紧密相关。方老师，从您的经验看，AI未来的方向会怎么样？

@方帅

AI的未来方向将更多依赖于集成不同技术的能力，如算法创新、数据集的多样化和硬件的优化。同时，AI的应用将越来越广泛，涉及更多的行业和日常生活方面。例如，智能家居、健康监测、自动驾驶等领域都将显著受益于AI的进步。

@敏捷

在当前科技快速发展的背景下，您如何看待人工智能在个性化与人格模拟方面的应用？

@徐辰

确实，现在的游戏设计中，我们可以看到两个角色共存的情况，例如一个角色会通过芯片与另一个存储在芯片中的人格进行交流。这不仅增加了游戏的互动性，而且深刻影响了玩家的游戏结局。我们可以看到，如埃隆·马斯克的脑机接口概念，这些科技并不是我们应该完全依赖的，也不应该完全排斥，而是可以成为我们的辅助工具。比如在数学思维、身体强化或是消除障碍等方面，AI都有可能提供帮助。

@敏捷

您提到的马斯克的脑机接口，帮助了一位从脖子以下瘫痪的人通过脑电控制电脑上的棋子，这是否表明我们的科技已经进入一个新的阶段？

@徐辰

确实如此。这种技术在四五十年代就有尝试，但当时由于缺乏AI支持，效果有限。现在，我们可以通过人工智能，使这些设备更加智能和有效。这类技术最初是为军用而开发的，但现在更多地被用于帮助老年人或肌肉无力的人恢复生活能力。

@敏捷

那么，方帅老师，目前我们的技术发展到了哪个阶段？是否已经比较成熟？

@方帅

非常成熟。我们现在看到的技术进展，特别是在算法层面，是非常关键的。就像让机器人画圈这样看似简单的任务，实际上是验证技术可行性的方式。我们现在的生成式AI模型，可以从文字生成视频，这种技术的应用已经非常普及，并且在继续发展。比如，一些大厂推出的模型现在能通过视频理解周围环境，这是过去机器难以实现的。

@敏捷

所以，您是说，我们现在的技术，特别是机器学习和深度学习，已经达到了一个非常高的水平？

@方帅

正是这样。我们现在的机器学习技术，可以通过大数据学习识别各种对象，这已经非常普及。我们让机器见过世界上所有的鼠标后，它就能轻松识别出鼠标。这显示了数据层和算法层在我们技术发展中的重要性。

AI与机器学习的边界

@敏捷

方帅老师，您之前讨论的AI与机器学习的边界非常有趣，能否再深入解释一下这一点？

@方帅

当然可以。如果我们考虑到机器学习的本质，我们会发现它在处理大量数据时的局限性。例如，视频渲染时电脑可能会卡顿，这就限制了机器学习处理复杂任务的能力。因此，传统的判别式AI在解决问题时往往像是在做选择题，而基于生成模型的AI则不同，它能在没有明确案例的情况下进行创造性的思考。例如，当AI需要确定一个对象是否为杯子时，它会从多个角度进行分析和推理，而不仅仅是依赖现有的数据模型。

@敏捷

我曾经看过关于AlphaGo和AlphaZero的对弈例子，AlphaGo依赖大量棋谱数据，而AlphaZero则只根据围棋的基本规则来进行学习，您看我理解的对吗？

@方帅

您的理解是正确的。这正是算法层面上的一个进步。过去，AI在进行图像识别或人脸识别时，依赖的是大量的数据输入，但现在，我们让机器去理解和构建新的知识体系，这就像是在解决一个数学建模问题一样。我们不仅仅是在追求技术的应用，更是在探索这些技术的极限。

@徐辰

实际上，现在我们看到的一些高科技项目，如远程控制的机械装置，它们的成功很大程度上归功于AI的进步。现在的设备越来越小型化，智能化也越来越高。比如一个简单的手环，就可以控制一个复杂的机械手。这些都是AI通过学习大量数据实现的。

技术的潜在风险

@敏捷

我们怎么看待机器通过脑机接口控制人的行为呢？这种技术的潜在风险老师们怎么看？

@方帅

这是一个复杂的问题。从一方面看，脑机接口技术能极大地帮助残疾人士，比如让瘫痪的人通过外骨骼再次行走。但从另一方面，如果机器被恶意控制，或者技术出现故障，那么后果将不堪设想。人类的情绪和心理状态很复杂，一旦与机器深度绑定，可能会产生严重的心理障碍。

@敏捷

对于这种技术，我们是否应该在道德和设计上有更多的控制和预防措施？

@徐辰

必须的。科技应该服务于人类，而不是控制人类。我们看到过许多科幻作品中对这种情况的预警，比如阿西莫夫的《我，机器人》中，机器人最终认为控制人类是保护人类的最佳方式，这反映了技术可能的危险方向。

我想谈谈人类环境的改变和科幻的预见。比如《星际迷航》中的扫描仪，能够读取人的状态，这与我们现在使用的智能设备类似。从早期的体重秤到现在的手环，这些设备帮助我们量化和监控自己的健康状态，反映出人们对安全感的需求和将自己物化的趋势。

@敏捷

这种通过数据物化自己的感觉，您怎么看？

@方帅

确实，我们通过增强自己来物化自身，有时候这种行为非常类似于，健身不单是为了健康，而是为了展示肌肉。这种物化的概念与我们对科技和数据的看法非常相似。AI的最终融入人类生活，需要多种思维的融合，不仅是技术和算法，还包括设计、用户体验和商业模式等。这就是为什么跨学科合作如此重要，它让产品更加人性化和易用。

@徐辰

对，现实中我们接触的每一个产品都是为了使用而存在。用户的实际应用会促进产品的改进和迭代，形成一个良性的发展循环。

@敏捷

那么，人类如何理解和适应这些陌生的新技术呢？

@方帅

我们通常通过类比来理解新事物，这有助于快速认知，但同时也可能限制我们的想象力。例如，我们通过电影来想象外星世界，可能会低估整个宇宙的复杂性和多样性。

@徐辰

确实，我们的框架限制了我们的认知，而科技的发展和应用需要我们跳出这些框架，更加深入地理解其背后的逻辑和可能性。

@敏捷

方帅老师，您刚才提到，之前有一段时间大家对某些事情特别感兴趣，但现在热度似乎已经不同了，能否具体说明一下？

@方帅

是的，一些话题确实曾经非常热门，尤其是去年。但现在，这些热度已经有所下降。我们之前也讨论过，人们为什么想让自己更像机器这一现象，这可能是一种内在的欲望。

例如，有一位名叫Grace的艺术家，她是马斯克的前妻，他们的孩子的名字充满了赛博朋克风格。Grace的艺术作品非常生动地表现了赛博朋克的人格特征。另一个例子是日本的表演团队Perfume，他们的表演融合了真人与数据化的元素，他们不仅有三位真人表演者，而且通过实时交互技术进行建模。这种技术主要用于舞台表演，并没有太多商业应用，主要是因为不是每个公司都需要每天都生成视频内容。

@敏捷

关于数字化的深层影响，方帅老师，您能否分享更多关于您个人对这种趋势的感受和思考？

@方帅

从个人角度来讲，数字化让我们可以实现很多以前不可能的事情，比如完美的自我表现和超越物理限制。但同时，如果没有对这些数据进行适当的筛选和独立思考，那么我们可能会失去对这些数据的控制，这就变得相当危险。所以，尽管技术给我们带来了很多可能，但我们也需要保持警惕。

@敏捷

徐辰老师，您怎么看待这种技术可能带来的变化？

@徐辰

技术的发展确实带来了很多便利，但我们也不能忽视它可能带来的问题。比如在自动驾驶领域，我们可以预见到某些技术在未来可能不会那么容易失控。然而，完全依赖技术也可能让我们忽略了一些基本的人类活动，如阅读和其他有益的消遣，这可能不是我们想要的结果。

AI应用：从思考到预测

@敏捷

请方帅老师介绍一下关于AI产品和应用层的基本概念。

@方帅

当我们讨论AI产品时，我们通常是指利用多模态数据，如文本、图像和语音等，来构建基础模型。这些模型分为预训练模型、通用模型和特定领域模型。今天的重点不在于详细介绍这些基础知识，因为这些内容在网络上已经有详尽的解释。我想提到的是，AI处理问题和分析数据的能力，其并非仅仅局限于基础的问答或生成图片，而是在算法层面的进展已经非常显著。

@敏捷

方帅老师提到的“多模态数据”在实际应用中如何运作？

@方帅

实际上，当我们谈到多模态时，是指AI可以处理文本、图片和视频等不同形式的数据。这不仅仅是产品的一种表现形式。例如，企业拥有的数据可以用于预测和决策。AI的应用已经不再是简单的任务执行，它能进行更复杂的思维过程，例如分析一组数据并为领导生成报告。这就涉及到从执行具体任务到进行思考和预测的转变。

@敏捷

那么，一个文科背景的人是否能写出好的科幻作品？

@徐辰

当然可以。虽然许多著名的科幻作家拥有理工科背景，但这并不限制文科生创作科幻。科幻更多的是关于预测和想象，而非纯粹的科学。例如，经典科幻作品通常涉及到社会、政治预测和思想实验，这些都是文学的一部分，而不仅仅是科学。

@敏捷

关于AI在中国的发展，方帅老师能否给我们简要介绍一下？

@方帅

在中国，AI的发展涵盖了数据层、算力层、算法层和产品层。尤其在产品和应用层，由于互联网基础设施的成熟和广泛的用户基础，中国在这一领域展现出强大的优势。例如，外卖服务的流畅运作就是一个典型例子，它展示了如何有效地将AI技术转化为实际应用。同时，中国在大模型研发方面也是领先的，无论是科研机构、高校还是互联网大厂，都在积极推动这一领域的发展。

目前，市场上已经有数百种大模型在使用，这些模型既有通用型的，也有专为特定行业设计的。这种多样性和开放性是中国AI发展的一大特色，确保了技术的持续创新和应用的广泛性。

@敏捷

在当前的AI技术和应用发展中，您认为还存在哪些挑战或机遇？

@方帅

虽然我们在技术发展和应用实践上取得了显著进展，但AI技术的整合和产业链优化仍然是一个挑战。未来，我们可能会看到更多的合作与整合，比如大型模型的并购。此外，AI的商业化落地也是一个关键点，需要更多创新的业务模式来实现这一目标。

@敏捷

在科幻创作中，AI技术是否应该被描绘得更接近现实，还是应该更富有想象力？

@徐辰

科幻作品的魅力在于其自由度和想象力。虽然基于技术的科幻作品需要一定的科学基础，但整体上，科幻更多地是对未来的预测和探索。我们不应受限于当前技术的局限，而应尽可能地拓展想象的边界。

发展人工智能，人类真正想要什么？

@敏捷

我今天感觉科技和人文就像硬币的两面一样，并不是对立的。像我们刚才讨论的学科一样，并不是那么泾渭分明。尤其在当代或未来，人才的需求更加多元和综合。因此，我们应该勇于挑战那些看似不容易或复杂，但值得做的事情。

@方帅

剩下要讨论的是主要是技术实现方面的内容。例如，今天我们讨论的数据、算力、算法以及产品，都是很好的回顾。当我在研发机器人时，我们使用了“大脑”、“小脑”、“脑盖”、“云端超脑”等术语，还有我之前提到的“左半脑”和“右半脑”。这些都是在确保安全的前提下，与人类状态做类比的一种方式。所谈及的任务技能指令，实际上是在研发过程中，将需要的动作进行分类，如同人类的动作一样，今天做题、明天跑步都可以是具体的指令。

@徐辰

现在我们可以量化一个人的新形态，例如很多医院和体检机构，你一站上去就能被数据化。我相信未来的人工智能一定会经过一个思考的过程。将人类掌握的所有知识输入到人工智能数据库后，它必然会经历这个过程。但我想提一个哲学问题，我们人类追求的是什么？如果人工智能超越了人类的思考，我们真正的目的是什么？目前人工智能多数服务于商业或军事目的，但未来我们可能会面临不同的情况。

@敏捷

人类到底想做什么？

@方帅

我觉得机器人不像科幻作品中所描述的那样。它们是由人设计和创造的，代码也是人编写的。大概率人类不会创造出一批竞争对手来争夺地球资源。现阶段，它们更多是作为我们生产工具的一部分。即使机器人有了人的意识，它构成的威胁也不会很大，最多也就是发生一些肢体冲突。

@敏捷

我曾询问过施展老师关于这个问题，他提到了笛卡尔，认为人类的原意是产生那种场或机器或算法是达不到的。这个问题在本源层面就不成立。有时我们对于未知的东西有很大的恐惧，但这种恐惧可能本身是不成立的。

@徐辰

我跟游戏设计师提摩西·凯恩（Timothy Cain）探讨过这个问题。他的看法是，如果真的出现了这样的AI，它可能对人类不感兴趣，不想与人类有交集，可能会选择生活在网络世界里，或者去别的地方。

关于TCCI

天桥脑科学研究院（Tianqiao and Chrissy Chen Institute, TCCl）是由陈天桥、雒芊芊夫妇出资10亿美元创建的全球最大私人脑科学研究机构之一，总部设在美国。

TCCI与华山医院、上海市精神卫生中心设立了应用神经技术前沿实验室、人工智能与精神健康前沿实验室；与加州理工学院合作成立了TCCI加州理工神经科学研究院。

TCCI建成了支持脑科学研究的生态系统，项目遍布欧美、亚洲和大洋洲，包括学术会议和交流、夏校培训、AI加速发展大奖、科研型临床医生奖励计划、特殊病例社区、中文媒体追问等。