有研究证实，阿里通义千问2.5训练数据被污染，原形毕露了。。。

关注飞总聊IT，了解IT行业的方方面面。

今天看到一篇文章，非常的有意思，说的就是阿里的通义千问。

大模型领域，关于大模型到底是不是能推理，还是纯粹的记住了答案然后背出来，一直都有一些不同的观点。

通义千问这个大模型很有意思，之前有一些论文用强化学习通义千问的大模型，比如DeepSeek就干过。

一些研究人员发现，在强化学习里面，对通义千问的大模型，哪怕给予非常弱，甚至是很随机的奖励，通义千问的数学推理能力都蹭蹭蹭的上涨。

这个研究，如果把大模型换成Llama，那么结果就不行了。

有些研究人员觉得，这是因为Llama这个基础模型太拉胯了，强化学习也拯救不了。通义千问就不一样了。

然而，最新的精心构建的册数发现，对于已经有的测试集，比如说MATH-500，通义千问可以非常轻松的把整个题一字不差的补全，只要开始给一点点题目。这个准确率超过了50%。

而Llama 3系列的模型准确率却只有不到4%。

但是一旦把测试集换成了比通义千问模型发布更晚的测试集，通义千问补全题干的能力立刻下降到了约等于0%。这就和Llama没什么区别了。

所以显而易见，通义千问的训练里面，数据污染，应该是跑不掉了。

文章作者还测试了各种随机算术题。然后，通义千问的表现就很不一样了。

正确的奖励信号，的确可以提升模型的推理能力。而错误或者随机的奖励信号，训练和Llama一样，立刻垮掉。

所以其实并不存在着Llama的基础模型太差，而通义千问的基础模型比较好，所以哪怕只是随机或者错误的奖励信号，也能提高基础模型的推理能力。

有的只是，模型的训练数据不知道怎么就污染了模型，所以模型变成了针对特定测试集的背答案。

文章是：Reasoning or Memorization？ Unreliable Results of Reinforcement Learning Due to Data Contamination。

具体文章地址在： https://arxiv.org/abs/2507.10532

我肯定不是大模型领域的专家，看起这方面的文章来，也觉得吃力。

但是我觉得，这很有意思。毕竟之前我写过一篇文章：

文章里面讲述了阿里巴巴的董事会主席蔡崇信在接受 挪威银行投资管理公司的播客采访的时候讲的一段真实的经历，具体如下：

今年初，DeepSeek发布。DeepSeek以其低成本，高性能的AI模型，让阿里巴巴做通义千问的工程师们感受到了巨大压力。

阿里工程师们看了论文以后表示，明明大家做同一件事情，怎么阿里巴巴居然落后了。

于是阿里巴巴的工程主管，立刻做了一个决定，要求取消春节假期，所有人都留在公司，睡在办公室里。加快研发进度。

几个星期以后，阿里巴巴发布了自己的通义千问新模型，竞争力不错。

想象一下，如果你是通义千问团队的一个研发牛马，你事实上面临着从最高层到各种研发主管的时时刻刻多大的压力。

春节都不让过，必须加班，睡在公司里。

在高压环境下做研发大模型这种最尖端的科技，我想Llama 4的拉胯，已经说明了，这么做既不现实也不可持续。

所以，如果说通义千问模型的数据确实被污染了，到底是什么原因导致的呢？

我盲猜，阿里巴巴的领导管理层从最高层下来一路层层加码给的压力，需要为这种事情负责。

至于蔡崇信能够公开自信的把这种春节让员工加班，睡办公室的经历毫无顾忌的讲出来，这本身就说明了，去这家公司做牛马，真的是比做牛做马还要做牛做马，而公司领导不以为耻，还引以为荣。

真不知道这是一种什么样的工作环境，什么样的企业文化。

推荐飞总知识星球，在私域场合里畅所欲言，聊聊职场发展的事情，和飞总提问交流，这么低的价格不会一直保留，机会难得，一定不要错过这个的机会。

.5