一篇新论文把思维链拆开看了。研究者没有停留在文字表面,而是追问:推理步骤之间,除了文本上的先后顺序,内部表征里有没有更深的结构?
他们关注的是几类不同的推理操作——问题表述、目标拆解、演绎推理。问题很直接:这些操作在隐藏表征中,是不是按几何方式组织起来的?
![]()
结论是:是的。不同操作在留出的表征里可以分开,而且这种可分性在中间层达到峰值。
几何结构跟着功能走,不是跟着词走
作者做了几项检验,排除了词汇和位置因素的干扰。一个关键发现是:表面相同的词元,在不同操作块里会被表示成不同的样子。也就是说,几何结构追踪的是功能,而不是措辞本身。
注意力掩码实验进一步显示,一个块开头的操作对齐表征,依赖前面的推理上下文。操作标签是从整条推理轨迹里构建出来的,不是从当前词元直接读出来的。
跨层来看,词元级别的操作对齐会随着层数增加,在跨度上变得更加分散。如果你想按操作类型来引导或监控推理过程,这篇研究指出了重要信号可能藏在哪里。
为什么中间层最值得看
可分性在中间层达到峰值,这个位置信息对实际应用有参考价值。它提示监控或干预推理时,不必盯着每一层,中间层可能是信号最集中的区域。
论文还验证了另一件事:操作标签不是局部词元自带的属性。它需要前面的推理上下文来构建,这意味着单纯看当前词元会漏掉关键信息。
对做推理监控或引导的研究者来说,这篇论文提供了一张地图:哪些层、哪些跨度上,操作类型的信息最清晰。
从文本到几何:思维链研究的一个转向
过去讨论思维链,大多停留在文本层面——提示怎么写、步骤怎么排。这篇论文把视角拉到了隐藏表征的几何结构上,问的是推理操作在模型内部如何分布。
这种转向的意义在于:如果操作类型在表征空间里可分,那么后续工作可以尝试按操作类型来定位、分析甚至干预推理过程。论文给出的中间层峰值、跨度分散等观察,都是后续研究可以落脚的坐标。
论文地址在 arxiv.org/abs/2609.04753,配套的论文对话页面在 academy.dair.ai 上可以找到。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.