网易首页 > 网易号 > 正文 申请入驻

昨晚,谷歌悄悄发了“新模型”,为多模态智能应用铺平了道路

0
分享至

文 | 霞光AI实验室,作者|渡川

就在昨晚,谷歌发了首个原生多模态嵌入模型Gemini Embedding 2。

跟以往的纯文本基础模型不同,Gemini Embedding 2的核心突破在于将文本、图像、视频、音频和PDF文档等五种模态,全部映射到同一个向量空间里。

在这种情况下,模型可原生支持混合模态输入,例如同时传入图片+文字、视频+音频等复杂组合,而且系统也能够理解不同媒体之间的语义关联。这意味着,你用一段文字去搜索相关的图片,或者用一张图片找到含义相似的音频片段,都可以实现。

但这种嵌入模型并不是面向普通大众使用的,而是面向AI应用开发者、算法工程师以及拥有海量非结构化数据的企业,帮助他们大幅简化了复杂的多模态数据处理流程,提升检索增强生成(RAG)、语义搜索等多模态下游任务的表现,这也将为多模态智能应用铺平了道路。


通常大家说的大模型(LLM / 基础大模型),指的是能理解、推理、生成长文本的底座模型,表现出来是能够与人对话、思考、创作、写代码;而Embedding模型属于向量表征模型,它只做一件事——把文本 / 图像 / 音频转成向量(一串让机器读懂的数字),而不生成内容、不推理、不对话。

以前的机器在搜索/检索时有个问题:文本有文本的 Embedding 模型,图片有图片的 Embedding 模型,音频有音频的 Embedding 模型,它们各自生成的向量是互相隔离的。

而谷歌发布的Gemini Embedding 2 是一款“多模态翻译官”,它让不同类型的数据(文字、图片、声音)能够用同一种语言交流,为企业构建下一代多模态搜索引擎和推荐系统提供了强大的基础工具。


这款产品的核心在于统一和理解。主要特点包括:

总体来说,Gemini Embedding 2为机器创造了统一的“感官”,为下一个高级人工智能体验时代提供了必要的多模态基础。


Gemini Embedding 2最核心的受益群体,正是AI应用开发者和算法工程师,它会极大简化他们过去复杂的工作流程。

以前,如果AI应用开发者要做一个能同时搜索图片和文字的应用,需要维护图像模型和文本模型两套嵌入系统,还得写大量代码对齐结果,而现在一个模型、一个向量索引就能搞定;特别是对于需要处理音频和视频的开发者,以前需要先做语音转文字、视频抽帧等预处理,现在可以直接输入原始音视频,减少了信息丢失,也降低了开发维护成本。

此外,对于很多大型企业(如媒体、医疗、金融)来说,它们的数据资产中绝大部分都是非结构化的图片、扫描件、录音和视频。过去,这些数据只能在数据库里沉睡,而Gemini Embedding 2 可以让这些数据真正变得可搜索、可利用——比如媒体可以建立一个跨格式的资料库,编辑直接用文字描述(如“夕阳下的海滩,带有轻松的背景音乐”)就可以搜索出符合条件的视频素材,无需依赖人工打标签。

此外,随着大模型应用加快,让模型获取最新的、多模态的知识变得至关重要。RAG 是目前的主流方案,而 Gemini Embedding 2 将 RAG 从“文本检索”升级到了“多模态检索”。有了 Gemini Embedding 2 的加持,当用户提问时,系统不仅能检索相关文字,还能找出相关的图表、视频片段作为上下文提供给大模型,从而生成图文并茂、信息量更大的回复。

Gemini Embedding 2的发布,其意义超越了模型本身。谷歌表示,该模型在多项文本、图像和视频任务的基准测试中超越了当前的主流竞品,为多模态嵌入领域设立了新的性能标准。

此外,它还让一系列过去难以实现的场景变得触手可及。例如,在法律领域,它可以从数百万条记录中,快速检索出包含特定图片、音频片段的证据文件;在推荐系统中,它可以基于用户的浏览历史,混合推荐相关的文章、视频和播客,体验更自然流畅。

总结来看,Gemini Embedding 2让机器不仅能生成内容,更能从底层去理解这个由多元信息构成的世界,让AI开启“全感知”应用时代。


2026年,被认为是大模型的“多模态”之年。今年前两个月,国内的快手、字节跳动、阿里巴巴等科技巨头密集发布新一代多模态模型,标志着AI视频生成正从“盲盒式娱乐”向“精准工业化生产”跨越。尤其Seedance2.0的发布,在全球引发关注,其最大亮点在于通过“@素材名”的全新交互范式,让用户能够指定每个图片、视频、音频的用途,且画面的物理规律更合理、动作表现更自然流畅。

如今,全球大模型已从单一文本能力的深耕,转向多模态原生融合的深耕。不同于以往“文本+图像”的简单拼接,2026年的多模态大模型普遍采用统一表示空间架构,能够原生协同处理文本、图像、音频、视频,真正实现跨模态的理解、生成与交互。

Gemini Embedding 2 代表的底层基础设施的革新,则它让机器“读懂”世界的方式变得统一和高效。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
不法之徒村田晃大,正面照曝光

不法之徒村田晃大,正面照曝光

新京报
2026-03-26 11:18:17
谁还敢充长期会员?男子视频VIP充到2028年,被一纸新规一夜返贫

谁还敢充长期会员?男子视频VIP充到2028年,被一纸新规一夜返贫

温读史
2026-03-26 10:41:06
S家发威了!大S律师已报警,官方出手,张兰律师怒斥,牵连马筱梅

S家发威了!大S律师已报警,官方出手,张兰律师怒斥,牵连马筱梅

小舟谈历史
2026-03-26 15:44:38
二百多名军官被枪毙、撤职、处分,长津湖战役中失职的志愿军88师

二百多名军官被枪毙、撤职、处分,长津湖战役中失职的志愿军88师

云霄纪史观
2026-03-25 12:16:14
马上评|双双被罚,友谊赛不是“友尽赛”

马上评|双双被罚,友谊赛不是“友尽赛”

澎湃新闻
2026-03-25 16:16:26
这4种鱼,可能含有甲醛和重金属,建议:还是少吃比较好!

这4种鱼,可能含有甲醛和重金属,建议:还是少吃比较好!

阿龙美食记
2026-03-24 21:52:23
昊铂的“新叙事”,一场久违的新豪华“破局”

昊铂的“新叙事”,一场久违的新豪华“破局”

功夫AUTO
2026-03-19 14:25:02
怼得漂亮!伊朗外长:既然我们连领导层都没有了,还有什么好谈的

怼得漂亮!伊朗外长:既然我们连领导层都没有了,还有什么好谈的

南风不及你温柔
2026-03-26 14:07:38
欧盟威胁越南:若中方参与了…

欧盟威胁越南:若中方参与了…

观察者网
2026-03-25 15:19:16
国际油价涨幅扩大 布伦特原油期货站上105美元/桶

国际油价涨幅扩大 布伦特原油期货站上105美元/桶

每日经济新闻
2026-03-26 15:11:37
杨振宁猝然离世5个月后,翁帆突传新消息,怀孕传闻早就真相大白

杨振宁猝然离世5个月后,翁帆突传新消息,怀孕传闻早就真相大白

李橑在北漂
2026-03-25 23:30:59
收评:沪指跌1.09% 全市场成交额不足2万亿元

收评:沪指跌1.09% 全市场成交额不足2万亿元

证券时报
2026-03-26 15:22:10
一代香港美人,感觉不是很开心的样子,大家还记得她的名字吗?

一代香港美人,感觉不是很开心的样子,大家还记得她的名字吗?

动物奇奇怪怪
2026-03-26 08:35:16
初代丑男何润东的突然爆火,狠狠抽了内娱一巴掌

初代丑男何润东的突然爆火,狠狠抽了内娱一巴掌

娱乐圈笔娱君
2026-03-24 16:08:36
中方是否了解美伊磋商情况?外交部:支持一切有利缓局降温的努力

中方是否了解美伊磋商情况?外交部:支持一切有利缓局降温的努力

澎湃新闻
2026-03-26 15:32:26
带娃出国的中产后悔了:想回来,但回国失败

带娃出国的中产后悔了:想回来,但回国失败

视觉志
2026-03-24 10:36:13
血管狭窄超90%,重油重腻且生活不规律,假如第一时间被抢救,张雪峰能活吗?

血管狭窄超90%,重油重腻且生活不规律,假如第一时间被抢救,张雪峰能活吗?

消化石医生
2026-03-26 12:52:28
强闯中国驻日使馆不法之徒照片曝光,3月15日刚晋升三等陆尉

强闯中国驻日使馆不法之徒照片曝光,3月15日刚晋升三等陆尉

澎湃新闻
2026-03-26 14:34:04
白宫不装了,承认伊朗拒绝谈判,特朗普准备“释放地狱”

白宫不装了,承认伊朗拒绝谈判,特朗普准备“释放地狱”

书纪文谭
2026-03-26 16:28:13
释永信“开光”真相大白,过程不堪入目,易中天也有牵扯

释永信“开光”真相大白,过程不堪入目,易中天也有牵扯

秋姐居
2026-03-25 10:22:58
2026-03-26 18:15:00
钛媒体APP incentive-icons
钛媒体APP
独立财经科技媒体
131356文章数 862012关注度
往期回顾 全部

科技要闻

Meta高管狂分百亿期权,700名员工却下岗

头条要闻

男子从四家公司贷出共计356万元 实际到手却仅8万多元

头条要闻

男子从四家公司贷出共计356万元 实际到手却仅8万多元

体育要闻

申京努力了,然而杜兰特啊

娱乐要闻

张雪峰家人首发声 不设追思会丧事从简

财经要闻

长护险谁能享受?享受多少?解答来了

汽车要闻

一汽奥迪A6L e-tron开启预售 CLTC最大续航815km

态度原创

艺术
家居
健康
游戏
军事航空

艺术要闻

哪一座桥不是风景?

家居要闻

傍海而居 静观蝴蝶海

转头就晕的耳石症,能开车上班吗?

又一经典最终幻想游戏将停运!开服至今已六年有余

军事要闻

担心特朗普突然停战 以总理下令48小时尽力摧毁伊设施

无障碍浏览 进入关怀版