网易首页 > 网易号 > 正文 申请入驻

快手提出全新「检索数据引擎」CroPS,打破搜索信息茧房

0
分享至



短视频搜索业务是向量检索在工业界最核心的应用场景之一。然而,当前业界普遍采用的「自强化」训练范式过度依赖历史点击数据,导致系统陷入信息茧房,难以召回潜在相关的新鲜内容。

针对这一问题,快手搜索团队提出了一套全新的检索数据引擎 CroPS(Cross-Perspective Positive Samples)。该方法通过引入用户换 Query 数据、推荐流数据以及大模型生成的世界知识,多视角丰富了正样本信号,并结合层次化标签分配(HLA)策略和 H-InfoNCE 损失函数,实现了对相关性的精细化建模。

目前,CroPS 已在快手搜索业务中实现全量部署,服务亿级用户。实测表明,该方案在具备极强的架构普适性的同时,显著提升了 CTR 与长播率,并有效降低用户换 Query 率,优化用户搜索体验。

本工作相关成果《CroPS: Improving Dense Retrieval with Cross-Perspective Positive Samples in Short-Video Search》已被人工智能顶级会议 AAAI 2026 Oral 接收。



  • 论文链接:https://arxiv.org/pdf/2511.15443v1

背景

当前工业界主流的向量检索模型通常采用对比学习范式进行训练,拉近 Query 与正样本在向量空间中的距离,同时推远与负样本的距离,从而学习内容相关性。

然而,在绝大多数工业系统中,训练数据的正样本高度依赖历史曝光日志中的用户交互行为(如点击),导致「自强化」循环发生。

具体而言,模型倾向于检索与历史高频点击内容相似的视频,用户受限于展示结果,只能在有限内容中选择和反馈,而这些反馈又再次作为正样本进入下一轮训练,进一步强化了模型原有的偏好。

这种机制不可避免地引发了严重的样本偏差。一方面,大量潜在相关但从未获得曝光机会的优质长尾内容,被系统性地排除在正样本之外,甚至在随机负采样过程中被错误标记为负样本。这种偏差使模型的检索视野逐渐狭窄,搜索结果变得保守且单一。

另一方面,由于缺乏对新颖内容的探索能力,用户的搜索体验逐渐固化,难以在结果中获得惊喜或满足探索性需求。



以往的学术研究多致力于改进模型结构(如引入交互更复杂的 Poly-Encoder)或优化负采样策略(如挖掘困难负样本),从而提升检索性能。虽然这些方法在一定程度上增强了对已知内容的判别能力,但始终在历史曝光数据的界限内打转,无法从根本上缓解正样本来源单一所带来的 “信息茧房” 效应。

针对这一挑战,快手搜索团队提出了 CroPS 框架,从根源上打破数据闭环。CroPS 首次在业界引入「跨视角」的正样本信号,重塑了检索模型的训练图景。

方法




多视角正样本增强引擎 CroPS

为了打破数据边界,CroPS 框架构建了一个包含三个维度的正样本增强引擎,分别利用用户换 Query 行为、推荐系统反馈以及大语言模型(LLM)的世界知识,来全方位地丰富语义空间。

1. 基于用户换 Query 行为的查询级增强

在真实的搜索场景中,用户往往难以一次性精准表达意图。当用户输入查询词 A 却未能找到满意结果时,通常会进行查询重构,输入语义相关但表述不同的查询词 B。如果用户在查询词 B 的结果下产生了深度交互,那么该交互视频在语义上极有可能是查询词 A 的理想正样本,尽管它从未在 A 的结果中获得足够的曝光。

CroPS 敏锐地捕捉到了这种「意图连续性」。通过分析用户在短时间窗口内的改写序列,并利用轻量级语义判别器进行过滤,系统能够将改写后获得的成功点击 “回流” 给原始查询,利用用户的修正行为来纠正模型的语义偏差。

2. 打破搜推壁垒的系统级增强

推荐系统拥有海量用户消费数据,并且其算法机制天然倾向于发散和探索,因此推荐流中的视频往往具有更丰富的多样性。

CroPS 建立了一套跨系统的信号桥接机制:对于同一个用户,如果他在推荐信息流中深度消费了某个视频,且该视频在语义上与用户近期的搜索词高度相关,该视频就会被引入作为搜索模型的正样本。

通过这种跨系统的信号融合,搜索模型能够利用推荐系统的探索能力,将用户感兴趣但未主动搜索到的内容纳入召回视野,从而有效缓解单一系统带来的位置偏差和曝光偏差。

3. 引入大模型的知识级增强

当平台现有的内容库或日志无法覆盖某些长尾、复杂查询时,单纯依赖内部数据是无解的。为此,CroPS 引入了大语言模型(LLM)作为「虚拟检索器」和「内容生成器」,利用 LLM 蕴含的丰富世界知识生成高质量合成样本。

具体而言,系统采用单样本提示(One-shot Prompting)策略,让 LLM 扮演视频内容专家,针对特定查询生成包含标题、描述和标签的虚拟视频元数据。将这些合成数据作为正样本,训练双塔模型,相当于将外部世界的常识与逻辑 “蒸馏” 进检索模型中。

这一方法使得模型在面对「冷门」或「从未见过」的搜索 query 时,仍能够凭借语义理解能力找到相关内容,从而彻底突破平台存量数据的限制。



层次化标签分配 (HLA)

HLA 的核心是解决 CroPS 多源正样本的「可靠性差异」问题。不同来源的正样本(比如:用户换 Query 后产生互动的视频、推荐流中的视频)与用户真实需求的契合度各不相同。如果一视同仁进行训练,模型可能难以抓住重点。

因此,HLA 为样本分配「分层标签」,让模型能够识别样本的重要程度,从而学习更细粒度的相关性,更好地契合系统优化目标。

具体来说,HLA 将样本划分为「正样本相关层级」和「负样本层级」,为后续训练提供「细粒度监督信号」,不同类型样本对应固定标签,具体如下:



H-InfoNCE 损失函数

传统的语义召回采用的是 InfoNCE 进行优化,默认「样本只有正 / 负两种标签」,会逐个对比「单个正样本」和「对应的负样本」,无法区分 HLA 里「高标签正样本(如上图 Table 1 的标签 5)」和「低标签正样本(如上图 Table 1 的标签 3)」的层次化差异。

而 H-InfoNCE 在训练时,将「当前样本」与「标签严格低于它的所有样本」进行对比。这不仅突显了高优先级样本的重要性,也使学习目标与 HLA 的层级逻辑完全对齐,实现细粒度的语义区分。例如:

  • 若当前样本是「用户换 Query(标签 5)」,H-InfoNCE 会将其与「标签 ≤4 的所有样本(包括推荐正例、曝光未点击样本、负样本等)」 一起对比,强制模型学习「标签 5 样本与查询的相似度,必须高于所有低标签样本」。
  • 若当前样本是「曝光未点击样本(标签 3)」,则只需对比「标签 ≤2 的样本」。

通过这种方式,模型能够逐步掌握「高标签样本更重要」的排序逻辑。



H-InfoNCE 在这里通过样例标签矩阵、样本 mask 矩阵等得到了高效实现。





实验结果

为了验证这一框架的有效性,团队构建了两类测试集,来衡量模型的召回率 Recall@100:

  1. CT:用户点击测试数据集,即用户点击的视频作为正例;
  2. QR:用户换 Query 测试数据集,即用户换 Query 后消费的视频作为正例。

同时也引入了相关性标注测试数据集,以 NDCG@4 为监测指标,作为模型的相关性表征能力度量。

离线实验

论文中主要比较了三类主流方法:

  1. 经典方法:BM25(概率排序基线)、NCE(传统对比学习);
  2. 神经网络方法:DPR(双编码器稠密检索)、ANCE(动态难负样本采样)、ADORE+STAR(NN 模型引入筛选负例);
  3. 负采样策略:TriSampler(基于样本的空间位置进行的负例采样)、FS-LR(多级别负标签策略)。

在离线实验测试中,CroPS 相较于最强基线 FS-LR 在 CT 数据集上提升 9.5%,在换 Query 测试集 QR 上提升 7.1%。同时 NDCG@4 和 最强基线相当(67.4%->67.0%)



在线实验

在快手搜索的大规模 A/B 测试中,CroPS 带来了全方位的业务增长:

  • 点击率(CTR)显著提升了 0.869%,长播放率(LPR)提升了 0.483%,表明召回的内容不仅相关度高,而且内容质量足以吸引用户长时间驻留。
  • 用户换 Query 率(RQR)下降了 0.646%,意味着用户「一次搜对」的概率大幅增加,不再需要频繁更换搜索词来找到想要的内容,直接反映了用户搜索体验的质变。





总结与展望

CroPS 证明了在工业检索系统中,正样本增强是缓解「信息茧房」问题的有效钥匙,能够提升系统上限。通过跨视角引入多样化信号,并结合精细化优化策略,CroPS 成功打破了自强化训练的边界。

未来,快手搜索团队将进一步探索 CroPS 与生成式检索(Generative Retrieval)方法的融合,持续挖掘大规模语言模型在搜索全链路中的潜力。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
NBA里的吕布!背刺哈登西帝,兄弟反目,三姓家奴实力情商不匹配

NBA里的吕布!背刺哈登西帝,兄弟反目,三姓家奴实力情商不匹配

你的篮球频道
2026-03-11 07:28:14
坑惨国人的四个“伪豪车”,国外当草国人当宝,二手车贩避之不及

坑惨国人的四个“伪豪车”,国外当草国人当宝,二手车贩避之不及

番外行
2026-03-10 08:08:05
16万员工每人一套房,六年涨薪十七次,为何自己却用200元老年机

16万员工每人一套房,六年涨薪十七次,为何自己却用200元老年机

芳芳历史烩
2026-03-04 23:06:14
44岁朱丹商场被偶遇,腰腹微肉引热议,女神与凡人的界限在哪?

44岁朱丹商场被偶遇,腰腹微肉引热议,女神与凡人的界限在哪?

娱乐领航家
2026-03-10 18:00:13
又一个邻国一夜变天,亲印派高层“一个不留”,中国第一时间表态

又一个邻国一夜变天,亲印派高层“一个不留”,中国第一时间表态

肖兹探秘说
2026-01-29 12:48:29
中国禁放烟花爆竹,被人非议缺少了年味,你知道是谁提议禁放的吗

中国禁放烟花爆竹,被人非议缺少了年味,你知道是谁提议禁放的吗

叹为观止易
2026-03-10 21:13:26
伊朗警察总长:街头即战场,抗议者是敌人

伊朗警察总长:街头即战场,抗议者是敌人

老马拉车莫少装
2026-03-11 07:55:28
1941年皖南事变,有三位新四军高级将领叛变,他们后来的结局如何

1941年皖南事变,有三位新四军高级将领叛变,他们后来的结局如何

大运河时空
2026-01-21 17:05:03
马竞5-2热刺 阿尔瓦雷斯双响

马竞5-2热刺 阿尔瓦雷斯双响

上游新闻
2026-03-11 08:54:05
紫牛头条 | 买时宣称功能永久免费,用后却被要求付费升级!顾客投诉知名品牌电动车“言而无信”

紫牛头条 | 买时宣称功能永久免费,用后却被要求付费升级!顾客投诉知名品牌电动车“言而无信”

扬子晚报
2026-03-10 07:15:24
全红婵万家乐广告大片出炉,被吐槽像刘欢或者高晓松,太胖了!

全红婵万家乐广告大片出炉,被吐槽像刘欢或者高晓松,太胖了!

小娱乐悠悠
2026-03-10 11:54:20
上海影院荒唐一幕……

上海影院荒唐一幕……

TVB的四小花
2026-03-10 21:02:23
贝克汉姆坚持儿子离婚,16亿婚前协议导致和解困难

贝克汉姆坚持儿子离婚,16亿婚前协议导致和解困难

君笙的拂兮
2026-01-26 15:51:34
安德鲁王子膝盖坐女孩亲密搂腰!已被软禁,抗议迫使王室取消直播

安德鲁王子膝盖坐女孩亲密搂腰!已被软禁,抗议迫使王室取消直播

译言
2026-03-11 04:08:01
美国要跑了!中东战局,彻底反转了!

美国要跑了!中东战局,彻底反转了!

大嘴说天下
2026-03-10 18:35:08
咖位不大架子不小!9个明星云南录节目,强制驱赶游客,态度嚣张

咖位不大架子不小!9个明星云南录节目,强制驱赶游客,态度嚣张

TVB的四小花
2026-03-11 00:05:07
“龙虾”还没养熟,信用卡先被刷爆了

“龙虾”还没养熟,信用卡先被刷爆了

第一财经资讯
2026-03-10 20:26:05
为啥说海水淡化厂,才是以色列真正的命门?

为啥说海水淡化厂,才是以色列真正的命门?

52赫兹实验室
2026-03-08 16:54:07
谌容:晚年一个月丧夫丧子,在美被问对中共感情,一句话听众哑然

谌容:晚年一个月丧夫丧子,在美被问对中共感情,一句话听众哑然

南书房
2026-03-07 07:00:07
大脚击中海鸥的门将:当时感觉糟透了,但救活它让我们很欣慰

大脚击中海鸥的门将:当时感觉糟透了,但救活它让我们很欣慰

懂球帝
2026-03-10 17:34:28
2026-03-11 09:20:49
机器之心Pro incentive-icons
机器之心Pro
专业的人工智能媒体
12467文章数 142581关注度
往期回顾 全部

科技要闻

传微信秘密布局智能体 年内或向全用户开放

头条要闻

牛弹琴:更想打的伊朗 下一步或是"三板斧"

头条要闻

牛弹琴:更想打的伊朗 下一步或是"三板斧"

体育要闻

加兰没那么差,但鲈鱼会用吗?

娱乐要闻

《逐玉》注水风波升级!315评论区沦陷

财经要闻

油价大转头?一天,从末日到曙光!

汽车要闻

MG4有SUV衍生 上汽乘用车多款新车规划曝光

态度原创

健康
本地
家居
时尚
军事航空

转头就晕的耳石症,能开车上班吗?

本地新闻

云游中国|候鸟高颜值亮相!沉浸式打卡青海湿地

家居要闻

自然肌理 温度质感婚房

看来看去这些才是适合普通人的穿搭!不花哨、不繁琐,提气质

军事要闻

刚说完战争很快结束 特朗普改口

无障碍浏览 进入关怀版