香港科大：推理能力越强的AI模型，做文本嵌入反而不见得更好

这项由香港科技大学计算机科学与工程系领导的研究发表于2026年1月的arXiv预印本，论文编号为arXiv:2601.21192v1。有兴趣深入了解的读者可以通过该编号查询完整论文。

在人工智能的世界里，有一个看似合理的假设一直被大家默认接受：如果一个AI模型在推理方面变得更强，那么它在理解和表达文本含义方面应该也会更出色。就好比一个人数学能力提升了，我们自然会期待他在逻辑分析和抽象思维方面也会有所进步。

然而，香港科技大学的研究团队却通过一系列精心设计的实验，彻底颠覆了这个看似天经地义的观点。他们的发现就像是在平静的湖面投下了一颗重磅炸弹：那些经过强化学习训练、推理能力大幅提升的AI模型，在处理文本嵌入任务时，表现竟然和它们的"前辈"基础模型几乎完全一样。

这个发现的重要性不仅仅在于打破了人们的固有认知，更在于它揭示了AI模型内部运作的一个深层秘密。研究团队发现，那些看起来推理能力突飞猛进的模型，实际上并没有从根本上改造自己的"大脑结构"，而更像是在原有的知识地图上找到了更好的导航路线。

为了深入理解这一现象背后的原因，研究团队开发了一套全新的分析框架，叫做"分层表征相似性分析"。这套工具就像是一台超级显微镜，能够从三个不同的层面透视AI模型的内部变化：最表层的坐标系统变化、中层的几何结构调整，以及最深层的功能性改变。

通过这台"显微镜"，研究人员惊讶地发现了一个被他们称为"流形重新对齐"的现象。简单来说，就是那些经过推理训练的模型虽然在局部细节上有所调整，但整体的语义理解框架基本保持不变。这就像是重新装修了房间的布局，但房子的整体结构和地基丝毫未动。

一、推理训练的"表面功夫"：看起来强大实则有限

当我们提到AI模型的推理训练时，不妨用一个生动的比喻来理解。设想有一位学生准备数学竞赛，经过大量的题海战术和解题技巧训练后，他在数学推理方面确实突飞猛进。然而，当我们让他去做语文的阅读理解时，却发现他的表现并没有因为数学能力的提升而有明显改善。

这正是香港科技大学研究团队在AI模型身上观察到的现象。他们选择了多个具有代表性的模型对进行测试，每一对都包含一个基础模型和一个经过强化推理训练的"升级版"模型。这些模型对就像是同一个人在接受专业训练前后的对比。

研究团队采用了当前最权威的文本嵌入评测标准来检验这些模型的表现，包括多语言文本嵌入基准测试、代码文本嵌入基准测试，以及BRIGHT基准测试。这些测试就像是给学生安排的不同科目考试，全面检验AI模型在文本理解方面的综合能力。

令人意外的结果很快浮现：经过推理训练的模型在文本嵌入任务上的表现，与它们的基础版本几乎没有区别。更准确地说，两者的表现差异完全在统计误差范围内，可以说是完全相同。这就好比那位数学竞赛获奖的学生，在语文考试中的分数和训练前相比没有任何变化。

这一发现立即引发了一个深层次的疑问：为什么推理能力的提升没有带来语义理解能力的相应改善？要回答这个问题，研究团队意识到他们需要更深入地探索AI模型的内部机制，而不能仅仅满足于表面的性能测试结果。

这种现象的普遍性也令人震惊。研究团队测试的所有模型对都展现出了相同的模式，这说明这不是个别模型的特殊情况，而是一种具有普遍性的规律。无论是较小的模型还是较大的模型，无论采用哪种具体的推理训练方法，结果都指向同一个结论：推理训练的效果在文本嵌入任务上表现为"零影响"。

为了确保这个结论的可靠性，研究团队还特别设计了对照实验。他们同时测试了经过监督微调训练的模型对作为对比。结果显示，监督微调确实会对文本嵌入性能产生明显影响，这进一步证实了推理训练的"零影响"现象确实存在，而且具有独特性。

二、透视AI内心的三层显微镜：HRSA分析框架

面对推理训练"零影响"这一令人困惑的现象，研究团队意识到传统的性能测试方法就像是只看考试分数却不知道学生具体哪里做错了一样，无法揭示问题的根本原因。为了真正理解AI模型内部发生了什么，他们开发了一套革命性的分析工具——分层表征相似性分析框架。

这套框架的设计思路就像是给AI模型做了一次全面的"健康体检"。正如医生不会仅仅根据患者外表是否健康就下诊断，而是要通过血液检查、X光扫描、MRI等不同层次的检测来全面了解身体状况一样，HRSA框架也从三个不同的抽象层次来剖析AI模型的内在变化。

第一个层次是"表征层面"的分析，这相当于检查模型的"神经元坐标系"。就好比我们检查一个人的基本体征，看看他的心跳、血压等基础指标是否正常。在这个层次上，研究团队关注的是模型内部各个神经元之间的对应关系是否发生了改变。他们使用了两种主要的检测方法：维度间相关性分析和正交普罗克吕斯忒斯分析。

维度间相关性分析就像是检查模型的"指纹"，看看每个神经元在训练前后是否还负责处理同样的信息。而正交普罗克吕斯忒斯分析则更像是检查模型的整体"骨架"是否发生了旋转或重排。通过这两种方法，研究人员能够精确判断模型的基础架构是否保持稳定。

第二个层次是"几何层面"的分析，这深入到了模型内部语义空间的几何结构。可以将其理解为检查一座城市的道路网络布局。在这个层次上，研究团队不再关心具体每条道路的名称，而是关注整个交通网络的形状和连接模式。他们采用了线性中心化核对齐分析和k近邻重叠分析两种方法。

线性中心化核对齐分析就像是用卫星俯瞰整个城市的交通格局，检查主要道路的分布模式是否发生了变化。而k近邻重叠分析则更像是实地调查，看看每个街区的邻里关系是否还和以前一样。这两种方法结合起来，能够全面反映模型内部语义空间的几何特性。

第三个层次是"功能层面"的分析，这是最高层次的检测，关注的是模型的实际工作能力。这就像是检查一个人的各项技能是否正常，比如阅读能力、计算能力、记忆能力等。在这个层次上，研究团队使用了跨模型线性探测的方法。

跨模型线性探测的工作原理非常巧妙。研究人员首先在一个模型上训练一个简单的"探测器"，让它学会如何从模型的内部表征中提取特定的信息。然后，他们将这个探测器直接应用到另一个模型上，看看是否还能正常工作。如果两个模型在功能层面是相似的，那么这个探测器就应该能够在两个模型上都正常工作。

这三个层次的分析就像是三种不同焦距的镜头。表征层面的分析使用的是微距镜头，能够看到最细微的变化；几何层面的分析使用的是标准镜头，关注中等尺度的结构特征；功能层面的分析则使用的是广角镜头，关注整体的能力表现。通过这三种不同视角的综合分析，研究团队能够构建出AI模型变化的完整图景。

三、惊人发现：流形重新对齐现象

当研究团队将他们的三层分析框架应用到那些经过推理训练的AI模型上时，一个令人惊叹的现象逐渐浮现出来。这个现象就像是观察一个熟练的魔术师表演：表面上看起来发生了巨大的变化，但仔细观察后却发现，最关键的东西其实从未改变过。

在表征层面，研究团队首先发现了一个有趣的现象：大部分经过推理训练的模型都能很好地保持其原有的"神经元指纹"。用前面提到的比喻来说，就是模型的基本坐标系统基本没有发生改变，每个神经元还是负责处理原来的那些信息。然而，当训练时间延长时，研究人员观察到了一些微妙的"坐标漂移"现象，就像是房间里的家具稍微移动了位置，但整体布局依然保持不变。

更有趣的是，当这些经过推理训练的模型被进一步训练成文本嵌入模型时，那些轻微的坐标漂移现象竟然消失了。这就像是那些稍微移位的家具又重新回到了原来的位置。这种"自动复位"的现象暗示着，模型内部存在某种强大的"回归机制"，能够将偏离的部分重新拉回到原有的轨道上。

在几何层面，研究团队发现了更加引人深思的现象。通过线性中心化核对齐分析，他们发现推理训练几乎完全保持了模型语义空间的全局几何结构。这就好比一座城市的整体交通网络格局没有发生任何变化，主要道路的分布、重要节点的位置都和原来完全一样。这个发现非常重要，因为它说明推理训练并没有从根本上重塑模型对语义关系的理解。

然而，当研究人员使用k近邻重叠分析深入到局部细节时，却发现了一个截然不同的图景。虽然整体的几何结构保持不变，但局部的邻里关系却发生了不可逆的重组。这就像是城市的整体布局没变，但每个街区内部的小巷和建筑排列却重新调整了。

这种局部重组现象特别有意思，因为它是不可逆的。即使后续进行文本嵌入训练，这些局部的几何调整也不会回到原来的状态。研究团队认为，这种局部重组反映了推理训练的一个重要特点：它会优化模型内部的信息组织方式，将相关的推理步骤聚集在语义空间中更近的位置，从而提高推理效率。

在功能层面，研究结果最令人震惊。跨模型线性探测的结果显示，经过推理训练的模型与其基础版本在功能上几乎完全等价。这意味着，虽然推理训练改变了模型处理复杂推理问题的策略，但模型用于提取和表达语义信息的核心机制基本保持不变。

更重要的是，当这些模型被训练成文本嵌入模型后，它们在功能层面的相似性进一步增强。这种现象被研究团队命名为"流形重新对齐"。这个名字很形象地描述了整个过程：经过推理训练的模型虽然在某些方面发生了偏移，但当它们被应用到文本嵌入任务时，就会自动重新对齐到与基础模型相同的轨道上。

这种重新对齐现象的发生机制也很有趣。研究团队通过追踪训练过程中的变化发现，这种对齐主要发生在训练的早期阶段。在训练开始后的前200个步骤中，原本存在差异的两个模型迅速趋向一致，之后就保持稳定的相似状态。这就像是两辆原本走在不同道路上的汽车，一旦驶入同一条主干道，就会很快汇聚到相同的行驶轨迹上。

四、深层机理：推理训练与语义重构的本质区别

通过对流形重新对齐现象的深入分析，研究团队逐渐揭示了推理训练与传统语言模型训练之间的本质差异。这种差异就像是两种完全不同的学习方式：一种是在已有知识基础上学习新的解题技巧，另一种是重新构建整个知识体系。

推理训练更像是前者。当一个AI模型接受推理训练时，它并不会推翻自己在预训练阶段建立的语义理解框架。相反，它会在这个稳固的基础上学习如何更有效地导航和利用已有的知识。这就好比一个人学习下象棋，他不需要重新学习汉字的含义，而是学习如何将已知的汉字知识应用到棋局分析中。

这种学习方式的一个重要特征是它的"保守性"。推理训练倾向于保持模型原有的语义理解能力，只在推理策略和路径选择上进行优化。这解释了为什么经过推理训练的模型在文本嵌入任务上表现与基础模型相同：因为文本嵌入任务主要依赖的是模型的语义理解能力，而这部分能力在推理训练中基本保持不变。

相比之下，监督微调训练则更像是后者。当模型接受监督微调时，它会根据新的任务需求对整个知识结构进行重新组织，甚至可能改变对某些概念的基本理解。这种训练方式对模型的语义空间产生更深层次的影响，因此也会导致文本嵌入性能的显著变化。

研究团队通过对比实验验证了这一观点。他们发现，经过监督微调的模型在HRSA框架的三个层面上都表现出明显的变化：不仅神经元的对应关系发生了重大调整，语义空间的几何结构也出现了各向异性的扭曲，功能性探测的结果更是显示出显著的能力退化。

这种对比特别有启发性。它揭示了不同训练方法对AI模型产生的截然不同的影响。推理训练就像是教会一个人新的思维方法，而监督微调则像是让这个人重新接受基础教育。两种方法都有其价值，但适用场景和效果机制完全不同。

从这个角度来看，推理训练的"零影响"现象其实反映了这种训练方法的一个重要优势：它能够在提升特定能力的同时，保持模型原有的通用语义理解能力不受损害。这对于实际应用来说是非常宝贵的特性，因为它意味着一个经过推理训练的模型仍然可以很好地承担各种基础的自然语言处理任务。

研究团队还发现，这种保守性训练的效果具有很好的稳定性。即使在长期的推理训练过程中，模型的核心语义能力也能保持基本稳定。只有在极端的训练条件下，比如训练时间过长或训练强度过大时，才会出现一些坐标漂移现象，但这些变化通常是可以通过后续训练修正的。

五、实验验证：多重证据的汇聚

为了确保他们的发现具有普遍性和可靠性，研究团队设计了一系列严格的实验来验证"流形重新对齐"现象。这些实验就像是从不同角度拍摄同一个物体的照片，每个实验都提供了独特的视角，而所有实验的结果都指向了同一个结论。

在模型选择方面，研究团队精心挑选了具有代表性的模型对进行测试。这些模型对涵盖了不同的规模、不同的训练方法，以及不同的训练数据集。每一对模型都由一个基础模型和一个在其基础上进行推理训练的"升级版"组成，确保了对比的公平性和有效性。

为了验证推理训练对不同类型任务的影响，研究团队构建了专门的数据集。他们创建了一个包含思维链推理过程的数据集，这个数据集就像是记录了AI模型"思考过程"的日记。通过分析模型在这些复杂推理任务上的内部表征变化，研究人员能够观察到推理训练的直接效果。

有趣的是，即使在这种专门展现推理能力的数据集上，HRSA分析的结果依然支持流形重新对齐的观点。经过推理训练的模型虽然在处理复杂推理问题时表现更好，但其内部的语义表征结构与基础模型保持高度一致。

研究团队还进行了训练动态的追踪实验。他们在文本嵌入模型的训练过程中定期保存检查点，然后使用HRSA框架分析模型在训练过程中的变化轨迹。这就像是制作了一部关于模型变化的"延时摄影"电影，清晰地展现了流形重新对齐的整个过程。

实验结果显示，重新对齐现象确实主要发生在训练的早期阶段。在训练开始后的前200个步骤中，原本存在细微差异的基础模型和推理训练模型迅速趋向一致。这种快速对齐的现象表明，对比学习这种训练方法具有强大的"纠偏"能力，能够将模型拉回到最优的语义表征轨道上。

为了进一步验证这一发现的通用性，研究团队还测试了不同规模的模型。从小型的5亿参数模型到大型的40亿参数模型，所有测试的模型都表现出了相同的模式。这种跨规模的一致性表明，流形重新对齐现象是AI模型的一个基本特性，而不是特定模型架构的特殊现象。

研究团队还设计了对照实验来验证其他训练方法的效果。他们测试了多种不同的强化学习算法，包括近端策略优化、分布式代理策略优化等，结果发现所有这些推理训练方法都表现出相似的特征。这进一步证实了他们的发现具有普遍适用性。

特别值得注意的是，研究团队还验证了这一现象在不同语言和不同任务类型上的表现。无论是英语、中文还是其他语言，无论是数学推理、逻辑推理还是常识推理，所有测试的结果都一致地支持流形重新对齐的理论。

六、实际意义：重新思考AI训练策略

这项研究的发现不仅在学术上具有重要价值，更对AI模型的实际开发和应用产生了深远的影响。它就像是为AI开发者提供了一份详细的"模型训练指南"，帮助他们更好地理解不同训练方法的效果和适用场景。

从实际应用的角度来看，这一发现为AI模型的训练策略提供了重要的指导原则。对于那些希望同时具备强推理能力和良好文本理解能力的应用场景，开发者现在知道了可以放心地对模型进行推理训练，而不用担心会损害模型的基础语言能力。这就像是告诉厨师，他可以学习高级烹饪技巧而不必担心会忘记基本的刀工。

这一发现也为模型的部署策略带来了新的思路。既然推理训练不会改变模型的基础语义能力，那么一个经过推理训练的模型就可以同时胜任推理任务和传统的自然语言处理任务。这大大提高了模型的通用性和部署效率，减少了需要维护多个专用模型的复杂性。

从计算资源的角度来看，这一发现也具有重要的经济意义。传统上，人们认为不同的任务需要专门的模型训练，这意味着巨大的计算成本和时间投入。但现在我们知道，推理训练后的模型在文本嵌入任务上仍然表现优秀，这意味着可以用一个模型来处理多种任务，大大节省了训练和部署的成本。

研究团队的发现还为AI安全性研究提供了新的视角。由于推理训练不会从根本上改变模型的语义理解框架，这意味着经过推理训练的模型在安全性方面的表现应该与基础模型基本一致。这为AI安全评估提供了重要的参考依据，有助于更准确地评估AI系统的风险水平。

这项研究也对AI模型的可解释性研究具有重要启发。HRSA框架本身就是一个强大的模型分析工具，它提供了一种系统性的方法来理解AI模型的内部机制。这种分析方法不仅可以用于研究推理训练的效果，还可以应用于分析其他类型的训练方法，为AI可解释性研究开辟了新的道路。

从产业发展的角度来看，这一发现可能会影响AI公司的技术路线选择。既然推理训练能够在保持原有能力的基础上增强模型的推理能力，那么这种训练方法可能会成为AI模型开发的标准流程。这就像是在汽车制造中加入了一项既能提升性能又不影响基本功能的技术。

研究团队还指出，这一发现为未来的研究方向提供了重要线索。既然推理训练主要影响的是模型的局部几何结构，那么未来可能可以设计更加精确的训练方法，专门针对这些局部结构进行优化，从而在更小的训练成本下获得更好的效果。

说到底，这项研究最重要的贡献在于它改变了我们对AI模型训练的基本认知。过去，人们往往认为不同的训练会导致模型发生根本性的改变，但现在我们知道，至少在推理训练的情况下，模型的核心能力是相当稳定的。这种稳定性既是一种限制，也是一种优势，关键在于如何正确地理解和利用它。

这个发现就像是揭示了AI模型的一个基本"物理定律"：在语义理解这个基础层面，模型具有很强的"惯性"，不容易被外部训练所改变。这种惯性确保了模型的可靠性和稳定性，但也意味着如果想要在语义理解层面进行根本性的改进，可能需要采用完全不同的方法。

Q&A

Q1：什么是"流形重新对齐"现象？

A：流形重新对齐是指AI模型经过推理训练后，虽然在局部细节上有所调整，但当被应用到文本嵌入任务时会自动回到与基础模型相同的轨道上。就像两辆原本走在不同道路上的汽车，一旦驶入同一条主干道就会汇聚到相同的行驶轨迹。这种现象主要发生在训练的前200个步骤中，之后模型就保持稳定的相似状态。

Q2：为什么推理能力强的AI模型在文本嵌入任务上表现不会更好？

A：研究发现推理训练并不会从根本上重塑模型对语义关系的理解，而更像是在已有的知识地图上找到更好的导航路线。推理训练保持了模型原有的语义理解框架，只在推理策略和路径选择上进行优化。由于文本嵌入任务主要依赖语义理解能力，而这部分能力在推理训练中基本保持不变，所以性能不会有显著提升。

Q3：分层表征相似性分析框架是如何工作的？

A：HRSA框架像一台三层显微镜，从三个抽象层次分析AI模型变化。表征层面检查模型的"神经元坐标系"是否改变，几何层面分析语义空间的整体结构和局部邻里关系，功能层面测试模型的实际工作能力。通过维度间相关性分析、线性核对齐分析、k近邻重叠分析和跨模型线性探测等方法，能够全面透视模型内部的变化机制。