Ethan Mollick 在社交平台上抛出一个判断:进入智能体时代后,思维链(CoT)的价值突然崩塌,连经过总结的 CoT 也一样。这句话的分量在于,它说的不是某个模型变弱,而是过去那套"看模型怎么想"的方法,正在失效。
为什么 CoT 不再够用
过去人们习惯让模型把推理过程写出来,再据此判断它靠不靠谱。Mollick 的意思是,这套做法在智能体场景里已经撑不住了——模型不再只是回答一个问题,而是连续执行一串动作,中间过程被压缩、被省略,你看到的 CoT 未必是它真正在做的事。
他给出的应对方式很具体:想要有效引导 AI、想要获得某种可观测性,现在必须主动去要中间输出和测试结果,而不是等它把结论端上来。
可观测性得自己动手要
Mollick 提到的两个动作,指向同一件事——把黑箱拆开看:
- 要求 AI 给出中间输出,而不只是最终答案
- 要求它给出测试,用可验证的结果代替自述的推理
换句话说,判断一个智能体干得对不对,不能靠读它的"心路历程",得靠它交出的阶段性产物和能跑通的测试。
出问题之后怎么办
Mollick 还补了一句:当你发现问题时,可以借助 AI 来排查这些问题。也就是说,AI 既是需要被观测的对象,也是排查工具本身。这条推文获得了 7,392 次浏览,说明这个观察在从业者中引发了共鸣。
CoT 曾经是理解模型的一扇窗,Mollick 的判断是,这扇窗在智能体时代正在变小。想要看清里面发生了什么,得换一套办法。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.