月之暗面联合创始人张宇韬：从Prompt到Harness，Agent工程的演进之路

本文来自微信公众号： 潮涌AI ，作者：潮涌AI编辑部

当大模型从单次问答的对话工具，逐步走向能够自主规划、循环执行、长时间完成复杂任务的Agent，整个行业对于AI工程化的改造重心也在持续迁移。

如今，行业真正要攻克的命题，是搭建一套完整运行环境，支撑模型自主完成小时级闭环任务。

大模型自身的理解、推理、规划能力持续涌现，与之配套的工程方法论也要同步完成迭代。

7月3日，月之暗面联合创始人张宇韬在“2026全球数字经济大会人工智能融合应用发展论坛”上发表了《从Prompt到Harness，Agent工程的演进之路》主题演讲，完整梳理了大模型三段技术演进脉络，结合团队落地Agent的实践经验，拆解新一代Agent工程的底层逻辑、核心原则与长期发展思路。

以下是张宇韬演讲实录，经潮涌AI整理发布：

三个热词：

Prompt→Context→Harness Engineering

非常荣幸能够来这里分享，模型厂商对于AI工程化以及整个AI构建Agent实践中的Know-how。

大模型从2023年发展到现在，其实经历了很多不断迭代的过程。

整个旅程中有三个热词：

2023年ChatGPT刚发布的时候，我们一直在强调的概念是Prompt Engineering。

2024年演化到Context Engineering。

到2026年，现在最热的一个词叫HarnessEngineering。

这三个词意味着什么？

第一，我们要问问题。怎样在聚焦的情况下，在有限的上下文中把问题讲清楚，让AI能够精准回答——这是PromptEngineering。

第二，ContextEngineering。当上下文空间、模型的窗口扩展以后，我们怎样能够去提供更充分、更精准的信息，让模型完成更复杂的任务。

第三，Harness Engineering。随着模型能力不断提升，模型已经不局限完成单轮任务、回答一个问题，而是可以做一个小时级别以上的复杂任务。你怎样让它通过一个循环过程，不断自我探索，最终完成。

1、2023：Prompt Engineering时代，4K上下文的局限

我们把时间回到2023年。

那个时间点，面对ChatGPT刚发布，我们有一个很困惑的地方：它只支持4K的上下文空间。在这样的上下文空间，你能够做的事情非常局限。你需要非常精妙地利用这个空间，把你的问题提出来，把你的任务布置下去。

所以，那个时候我们一直强调怎样做好PromptEngineering。本质就是在有限的上下文空间中，怎样更精准地把问题部署给模型，让它完成。而且那个时候模型的智力是有限的，所以你怎样适配模型对于Prompt的理解非常重要。

2、2024：ContextEngineering时代，工具调用进入上下文

时间来到2024年。那个时候各个模型的上下文窗口开始扩展了，从4K到32K到128K，甚至是1兆以上的上下文窗口。并且模型能力有一定提升以后，我们开始尝试让模型不只是回答问题，而是做一些更复杂的任务。

这个时候我们引入了上下文工程的概念。我们要把工具的调用聚焦到上下文空间中，让模型给它足够的信息和很好的组织，让它利用外部信息，就可以让模型完成更复杂的任务。这是这个阶段我们聚焦的事情。

3、2026：Harness Engineering时代，小时级任务的拐点

随着模型能力的不断提升，我们看到一个拐点。

原来的模型能力有限，对于指令的遵循能力有限，对于理解一个长任务能力有限，它能够完成分钟级别的任务——这个分钟级别的任务通常在一个上下文空间中能够表现清楚。

现在我们看到模型有充分能力可以做小时级别以上的任务。这个情况下，我们必须给模型一个更好的环境空间，让它充分发挥自己的能力。

这个时间点，模型的局限已经不再于模型能力本身，而是在于怎样给它足够好的空间让它可以发挥。

这个情况我们思考怎样构造一个环境去驱动它，让它在闭环中自己解决问题。这就是所谓的Harness Engineering。

听起来是很漂亮的词，但所谓的Agent本质上非常简单，其实就是一个循环。

对于代码开发人员就是一个while循环。这个模型没有解决的时候，它自己探索下一步应该做什么，自己决策下一步应该做什么，然后执行这个决策，然后看是不是达成结果。如果遇到了错误，它想怎样从错误中恢复过来，是不是让人介入解决这些问题。最终看有没有解决问题——如果这个问题已经被解决，任务完成了就结束循环；如果没有解决，继续循环。

这就是Agent工程，它其实都在解决这一个问题。

脚手架哲学：模型能力提升后及时撤掉

我们需要做的就是在这个循环内更好地定义Agent框架，让它在充分安全的环境中自由探索，并且让它发现怎样去解决，给它足够好的工具，可以让它去发挥。

所以，这三个概念，不是三个完全独立的概念，其实是一个递进的概念，甚至是一个包含的概念。

现在整个Agent工程中，我们需要考虑怎样设计好Prompt，让它更清晰地让模型理解用户意图。同时我们做好Context，把外部工具、更好的东西可以注入进来、组织好，让它充分理解。最终构建一个更好的Harness，让它以非常自信、非常自洽的方式来执行。

前面生数科技创始人朱军老师提到了Bitter Lesson的概念。

这是我们所有做模型的人一直思考的问题：怎样让一个更通用的方式解决所有的问题，而不是用人工的方式去适配、不断去定义它。因为通常来说，随着模型的不断提升，那些人工的定义通常都会失效，甚至成为负担。

所以，我们自己在做AI工程的时候也会思考这样的问题。

有一个误区：我们需要精妙地设计一个框架来让模型发挥得很好。但是实际上真正的过程并不是这样。真正的过程是用模型的边界、能力边界来定义到底这个框架怎么实现。

在这个过程中，我们通常会这么使用：先构建这样的框架，让模型开始试探，发现能力边界，发现有什么问题。

当它有问题的时候，我们引入一些脚手架，这些脚手架可以让它拔高一点，在现有能力下做超出它能力的事情。随着模型不断提升，这些脚手架及时撤掉，这样它未来不会成为模型的累赘。

举个例子。

随着模型能力提升，我们观察到，小模型已经成为整个链路中的一个瓶颈。

因为一个小模型，比如几百兆或者1B的小模型，它的智力远远不如上TB的大模型的智力。它做一个前置判断，可能会导致整个问题的正确率成为所有人的瓶颈。

模型可以完成非常复杂的多轮搜索的任务，甚至解决人都不好解决的问题。

这是一个非常重要的观察，也是非常符合Bitter Lesson的原则。

Agent工程的四个核心原则

迭代这些AI工程的时候，我们也在思考。

这个范式非常简单：不管观测当前状态下，这个模型有没有解决问题，去思考我应该怎么解决这个问题，去执行，发现问题以后怎样给它错误的回馈机制，最终不断循环。

模型的能力是一个不断涌现的过程。

我们没法很早定义现在的状态应该用什么解决方案，甚至我理解对于整个世界最头部的这些AI公司，他们也没有正确答案。因为某些能力是迭代中不断涌现出来的。

这个情况之下，我们不应该限定框架应该做什么，而是随着模型的进步，我们给它更好的助力，并且找到它当下的边界。

这也是我们自己做AI工程、做Agent工程的时候总结出来的原则：

第一，刚才提到Agent本质就是一个很简单的东西，我们不要给它增加复杂性。

第二，怎样把对的信息、合适的信息、更重要的信息放进上下文，利用好这个窗口。这是它最重要的事情，是决定模型能力能不能发挥的事情。

第三，我们要很好地设计这些工具。所谓的工具对于模型来说，就像编程中的接口设计一样，需要足够清晰，不能有歧义。否则这些工具，模型用不好，甚至还会给模型增加负担。

第四，对于模型的记忆系统，它没有完美的解决方案。因为模型上下文空间有限，并且对于上下文空间的掌控能力也有限，所以，在一致性和创造性之间需要做一个权衡。这个过程中，可以选择把所有的信息放在上下文中，让它不断自我发展；也可能引入一些压缩的机制，包括总结的机制，或者是一些筛选的机制，让它可以更精准地去命中一些更重要的信息。这其实是我们在实践中不断探索的事情。

衡量Agent的价值：人类有多信任它

刚才提到Bitter Lesson，我们让模型自由探索、自由试错、去反馈，基于反馈去不断衍生、不断自我成长，会优于我们用精妙的设计来预定好一个框架让它去执行。

最后一点，先做一个最好的闭环，让模型先在闭环中跑起来，在这个过程中自然生长，而不是预先思考怎样构造一个复杂系统。

这是我们做好Agent的过程中的核心思路。

我们衡量一个Agent的价值，不再是单次实践能够做出最强能力的东西，而是我们人类有没有信任给它，让它可以去做复杂的任务。

其实衡量一个模型的价值，人类越自信地可以放手让它做，它的价值就更高。

这个过程中，我们如何构建一个足够好的环境，让人类可以充分信任，模型可以充分发挥，并且不会搞砸事情，让自我探索的能力发挥到极致——这就是我们认为最有价值的Agent。

整个Agent工程中，核心解决这个问题：如何让人更加信任Agent去自由地发挥。

以上就是我们自己，无论是模型迭代还是AI工程迭代中，我们自己的思考。非常感谢大家！

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4873532.html?f=wyxwapp