大语言模型与智能体的未来发展趋势

"三四年前，当我们的人工智能模型能够解决八年级数学问题时，我们感到非常兴奋。"谷歌DeepMind和谷歌研究院首席科学家杰夫·迪恩在英伟达GTC开发者大会的一次小组讨论中说道。

到去年，谷歌的Gemini已达到国际数学奥林匹克的金牌标准，现在它已经在各种编程竞赛中获胜。

这只是人工智能如何迅速颠覆世界的一个例子。AI已经占据了商业领域，扭曲了经济，快速改变了就业市场和职业生涯，甚至可能改变人类的未来。

科技行业专家将人工智能描述为比电力和互联网更具革命性的技术。（它也被称为比核武器更危险，因为这项技术如果落入不法之手，可能会造成严重破坏。）

经过几年的快速发展，人工智能的下一步是什么？迪恩和英伟达首席科学家比尔·戴利在GTC的小组讨论中分享了一些想法。以下是他们对大语言模型和智能体AI发展前景的概述。

自主模型发展

今年早些时候OpenClaw的出现让我们窥见了智能体如何在无人监督的情况下完成工作。但目前的计算流水线——包括芯片、功耗要求、通信和成本——都在滞后。为了支持这些未来智能体，一切都需要更快，迪恩说道。

英伟达正在努力让智能体更快，包括使用允许通过光网络技术传输数据的技术。戴利说："我们称之为光速。"

自由进化的智能体

这是一个可怕的想法：智能体可能正在创造自己的下一个版本，或至少创造能够运行最新大语言模型和生成式AI工具的更新版本。

这种情况还没有发生，但有迹象表明它即将到来，迪恩说，他指出智能体已经可以通过接受和拒绝想法来自我进化。

这里也有历史先例。2017年，AI研究人员提出了"元学习"的概念，即AI可以搜索最适合实验和问题解决的模型。当时的搜索参数主要在代码中指定，但现在可以用自然语言完成，迪恩说。

自然语言交互使智能体更容易找到改进的方法，比如找到新信息、特定算法或提炼机制。AI可以被视为性能倍增器，释放研究人员思考新想法的能力。迪恩说："这是超强研究人员与超强智能体之间的伙伴关系。"

更具交互性的大语言模型

随着AI技术的进步，大语言模型可能会与现实世界更加互动，实际上会实时重新学习和更新自己，并基于新知识采取行动。

迪恩说，今天的大语言模型基本上是固定的，通过互联网数据流传输，然后呈现给世界，结果很大程度上是预先确定的。

但未来的模型将通过即时交织物理和数字信息来即时学习。有了这些信息，大语言模型将能够更好地指导机器人行动并预测问题的答案。

虽然这在后训练中已经实现，但更好的是在预训练阶段进行交织。迪恩说："我们现在有这种人为的区别......从长远来看，这似乎不应该存在。"

迪恩说，持续学习模型已经在出现，没有任何固定参数，有机增长的模型在推进、修剪和压缩参数。

主智能体概念

英伟达和谷歌已经在使用AI进行芯片设计；下一步是弄清楚如何自动化这个过程，以便芯片设计师和开发人员可以做其他事情。

这个过程很可能涉及一个"主"智能体调用专门创建片上功能或修复错误的子智能体。这些智能体必须就芯片改进进行谈判，如果结果不好就进行迭代。

戴利说："他们将举行与我们相同的会议，但是在智能体之间。"

机器速度智能体

小组成员说，AI开发工具是为人类速度设计的，但需要以机器速度运行。因为智能体推理、决策和行动的速度比人类快得多，像缓慢加载的C++编译器这样的人类工具会阻碍快速进步。

迪恩说："我们将需要开始重新设计这些模型使用的工具。"

这在编码工具和文档操作方面已经在发生，以前它们以人类速度提取信息。简单地说，迪恩说："我们需要新形式的工具。"

安全专家强调了机器速度AI智能体处理网络攻击的能力。这是因为人类在阻止基于智能体AI的攻击方面可能过于缓慢。

更好的教育工具

小组成员批评了在课堂上限制使用AI的大学。相反，教育者需要依靠AI来加速学习，曾是斯坦福大学计算机科学教授的戴利说。

模型将很快作为"令人惊叹的"个性化导师，有效促进学习概念而不透露答案，迪恩说。他指出计算器如何消除了学习数学的瓶颈，帮助学生快速上升到更高水平。

迪恩说："也许我应该辞掉日常工作去亲自做这件事。"

Q&A

Q1：智能体是否会完全独立地自我进化？

A：目前智能体已经可以通过接受和拒绝想法来进行自我进化，未来智能体甚至可能创造自己的下一个版本或更新版本，能够运行最新的大语言模型和生成式AI工具。这种趋势表明AI正在向更高程度的自主性发展。

Q2：大语言模型如何实现与现实世界的实时交互？

A：未来的大语言模型将通过即时交织物理和数字信息来实时学习和更新自己。与目前基本固定的模型不同，新模型将能够在预训练阶段就进行实时学习，更好地指导机器人行动并预测问题答案。

Q3：为什么AI开发工具需要适应机器速度？

A：因为智能体推理、决策和行动的速度远超人类，现有的为人类速度设计的工具如缓慢的C++编译器会阻碍快速进步。因此需要重新设计开发工具，使其能够匹配智能体的机器级处理速度，提供新形式的高效工具。