网易首页 > 网易号 > 正文 申请入驻

腾讯开源多模态搜索训练方案,打破AI数据黑箱

0
分享至

为什么顶尖AI搜索工具的能力难以复制?问题可能出在训练数据上。

5月7日消息,腾讯混元联合加州大学洛杉矶分校、香港中文大学等机构,发布OpenSearch-VL开源方案。这套方案瞄准多模态搜索智能体的训练瓶颈——用强化学习技术,让AI学会"边搜边想、边看边查"的复杂推理能力。


所谓多模态搜索智能体,简单说就是能同时处理图片和文字,还会主动调用搜索引擎、图像处理工具进行多步骤推理的AI系统。它的核心任务是解决知识密集型的复杂视觉问答——比如给你一张模糊的老照片,问"这是哪座建筑、建于哪年",AI得先锐化图像、识别文字、再交叉验证历史资料。

研究团队指出,目前这个领域的最大障碍是数据不透明。现有顶尖系统多由商业公司主导,数据来源、过滤标准、工具使用轨迹全是黑箱,学术界想复现都无从下手。

OpenSearch-VL的解法是从头开源:数据管道、工具环境、训练算法全部公开。

数据构建上,团队利用维基百科的超链接图谱做"多跳实体路径采样"——让AI不能一步直达答案,必须像人类查资料那样层层递进。中间实体被重写为模糊描述,锚点实体绑定到源图像,专门抑制"检索捷径"。最终产出SearchVL-SFT-36k数据集,平均每条轨迹包含6.3次工具调用。其中10%数据还被刻意降质处理,逼AI学会"先处理图像、再查询知识"的主动感知行为。

工具环境也比传统检索智能体更丰富:文本搜索、图像搜索、OCR、裁剪、锐化、超分辨率、透视校正全部统一。这意味着AI在问搜索引擎之前,可以先自己动手"修图"。

实验结果显示,OpenSearch-VL-30B-A3B模型将基线平均分从47.8提升至61.6,在VDR、MMSearch等基准上均有显著增益。消融实验进一步验证各组件价值:去掉源锚点锚定、模糊重写或分阶段过滤,平均得分会下降8.2至11.5点。

该研究已于5月6日发表于arXiv平台,GitHub仓库同步开放。对于想训练自家多模态搜索智能体的团队来说,这可能是目前最完整的公开配方。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
中方宣布无视美国制裁,美媒称史无前例,鲁比奥:或追加二次制裁

中方宣布无视美国制裁,美媒称史无前例,鲁比奥:或追加二次制裁

书纪文谭
2026-05-07 15:11:53
这5种食物被冤枉好多年,以为伤身不敢吃,其实比外卖健康

这5种食物被冤枉好多年,以为伤身不敢吃,其实比外卖健康

Home范
2026-05-06 11:25:50
2000吨飞絮惹众怒,一斧子全砍了认错?专家:三大代价承受不起

2000吨飞絮惹众怒,一斧子全砍了认错?专家:三大代价承受不起

小兰聊历史
2026-04-26 11:37:23
泰晤士:阿森纳计划5月31日举行庆祝游行;已与阿尔特塔展开续约谈判

泰晤士:阿森纳计划5月31日举行庆祝游行;已与阿尔特塔展开续约谈判

懂球帝
2026-05-07 12:41:41
啊。。。。大帝快哭了啊。。。。

啊。。。。大帝快哭了啊。。。。

左右为篮
2026-05-07 17:12:43
中美会晤在即,印度将目光锁定八国,莫迪要弯道超车?野心藏不住

中美会晤在即,印度将目光锁定八国,莫迪要弯道超车?野心藏不住

丁丁鲤史纪
2026-05-07 16:58:51
7座车为啥越卖越少?车主坦言:多2座,却多了4个闹心缺陷

7座车为啥越卖越少?车主坦言:多2座,却多了4个闹心缺陷

音乐时光的娱乐
2026-05-04 23:51:39
电视剧《主角》定档,由张艺谋监制,张嘉益、刘浩存、秦海璐等主演;王菲献唱同名主题曲,“大秀”秦腔

电视剧《主角》定档,由张艺谋监制,张嘉益、刘浩存、秦海璐等主演;王菲献唱同名主题曲,“大秀”秦腔

极目新闻
2026-05-07 11:58:54
继子照顾病重养母 13年,临终给继子5万亲儿2套房,继子取款愣了

继子照顾病重养母 13年,临终给继子5万亲儿2套房,继子取款愣了

兰姐说故事
2025-04-19 10:00:11
31岁中乙中场停赛7个月罚6万 暴力染红后威胁+推裁判 踹坏广告板

31岁中乙中场停赛7个月罚6万 暴力染红后威胁+推裁判 踹坏广告板

风过乡
2026-05-07 12:12:48
太可怕!猪价跌破5元,背后藏着惊天阴谋,幸亏国家及时出手了!

太可怕!猪价跌破5元,背后藏着惊天阴谋,幸亏国家及时出手了!

丁丁鲤史纪
2026-05-07 11:31:02
闹麻了!华子狂输47分还笑嘻嘻,反观邓肯……

闹麻了!华子狂输47分还笑嘻嘻,反观邓肯……

贵圈真乱
2026-05-07 12:34:16
一旦装上心脏支架,还能活多少年?医生不再隐瞒,说出了实话

一旦装上心脏支架,还能活多少年?医生不再隐瞒,说出了实话

医学原创故事会
2026-05-01 23:20:56
钟汉良19-51岁颜值变化,出道时奶萌,40岁巅峰,花期太长了!

钟汉良19-51岁颜值变化,出道时奶萌,40岁巅峰,花期太长了!

情感大头说说
2026-05-06 08:14:38
哪来的自信,一个落选秀,拒绝9000万大合同,季后赛命中率仅三成

哪来的自信,一个落选秀,拒绝9000万大合同,季后赛命中率仅三成

球毛鬼胎
2026-05-07 12:55:53
卡里克转正悬了?罗马诺爆料:曼联暗中锁定世界级名帅

卡里克转正悬了?罗马诺爆料:曼联暗中锁定世界级名帅

澜归序
2026-05-07 06:48:06
民进党官员称鼠患非认知战,蒋万安重炮回击:“南鼠北送”不是吗

民进党官员称鼠患非认知战,蒋万安重炮回击:“南鼠北送”不是吗

海峡导报社
2026-05-06 16:36:06
第一个帮助中国的日本企业,不留余力提供技术!如今怎么样了?

第一个帮助中国的日本企业,不留余力提供技术!如今怎么样了?

博览历史
2025-10-07 17:13:05
特斯拉召回21万辆:软件定义汽车的代价

特斯拉召回21万辆:软件定义汽车的代价

野生运营
2026-05-06 15:42:57
中美之争将落幕?现实比想象残酷:美国不是输了,是下不了牌桌了

中美之争将落幕?现实比想象残酷:美国不是输了,是下不了牌桌了

墨君月夜相思
2026-05-07 15:12:04
2026-05-07 18:15:00
像素与芯片
像素与芯片
有态度网友ytd
3339文章数 21关注度
往期回顾 全部

科技要闻

月之暗面完成20亿美元融资,估值突破200亿

头条要闻

周喜安被判死缓:在两省共受贿过亿 被指学术成就丰富

头条要闻

周喜安被判死缓:在两省共受贿过亿 被指学术成就丰富

体育要闻

巴黎再进欧冠决赛,最尴尬的情况还是发生了

娱乐要闻

小S阿雅重返大S母校,翻看大S毕业照

财经要闻

金融“风暴”,AI制造

汽车要闻

雷克萨斯全新纯电三排SUV 全新TZ全球首发

态度原创

亲子
家居
房产
游戏
旅游

亲子要闻

宝蓝趁爸爸睡着了,把爸爸的薯片都拿走偷吃,突然被爸爸发现了

家居要闻

破茧成蝶 土味精装房爆改

房产要闻

负债23亿,抵押482亩地!海南这家巨头,惨遭拍卖!

索尼PS5独占新作销量太烂了!前十都进不去 回本堪忧

旅游要闻

男子悬崖边推搡藏酋猴?峨眉山景区:非危险路段,列入“不文明游客黑名单”,3年禁入

无障碍浏览 进入关怀版