网易首页 > 网易号 > 正文 申请入驻

突发!谷歌发布史上最强大模型Gemini,打爆GPT-4

0
分享至

金磊 鱼羊 发自 凹非寺
量子位 | 公众号 QbitAI

传闻中的谷歌杀手锏Gemini,来了!

就在刚刚,谷歌CEO皮猜和哈萨比斯在谷歌官网联名发文,宣布推出这一万众瞩目的多模态大模型。



标题明晃晃写着“最大”、“最强”,主打的就是一个干爆GPT-4。

具体来说,此次谷歌一共带来了Gemini的三个版本:

  • Gemini Ultra:谷歌最大、最强模型,适用于高度复杂的任务
  • Gemini Pro:可扩展至各种任务的Gemini模型
  • Gemini Nano:适用于端侧设备的高效Gemini版本(1.8B/3.25B)

其中Gemini Ultra一上来就在32个基准测试中拿下30个SOTA,并且第一个在MMLU基准上达到人类专家水平

而Gemini Pro从今天起,就会在Bard中实装上线。



同时,谷歌Gemini团队还公布了一份60页的详细技术报告。



消息一出,社交媒体瞬间炸了锅。

英伟达AI科学家Jim Fan就第一时间转发评论:

这是OpenAI王座的有力竞争者。



话不多说,一起来看更多细节。

谷歌史上最强大模型Gemini

在LLM中的表现,也正如我们刚才所述,32个基准测试中拿下30个SOTA。

其中,通用、推理、数学和编程等大方向的成绩如下表所示:



△Gemini 在包括文本和编码在内的一系列基准测试中达到SOTA

多模态方面,Gemini Ultra在新的MMMU基准测试中也获得了59.4%的SOTA分数。

这项基准测试是由跨不同领域的多模式任务组成,需要大模型进行一个深思熟虑的推理过程。

根据谷歌给出的图像基准测试结果来看,Gemini Ultra在没有OCR系统的帮助下,表现优于之前最先进的模型。



△Gemini 在一系列多模态基准测试中达到SOTA

接下来,我们以具体的案例来看一下Gemini的能力。

例如科学家们经常要面对从成千上万的文献中提取数据的难题,像下面这篇研究,作者就通过手动的方法从上万篇遗传学论文中创建了数据集。



像这样的数据集是需得随着时间流逝而进行更新的,但现实的情况是,自2021年以来,这个领域便已有超过200000篇新增的论文……

再像以往手动的方式显然是不可行的,不过现在有了Gemini,一切就变得简单了起来。

首先,通过自然语言的Prompt,告诉Gemini去过滤相关的科学论文:



只需片刻时间,Gemini就能找到相关论文和非相关的论文。



而后,继续用Prompt告诉Gemini去阅读相关论文,并提取关键数据,甚至是可以要求它添加注释的那种。



如果你给Gemini一个午休的时间长度,它就能阅读200000篇论文,从中筛选出250篇并提取数据!



并且由于Gemini是多模态的,我们还可以让它对上面的数据表格做进一步的深入操作,例如更新图表:



对于学生党来说,Gemini现在也可以成为非常得力的学习助手。

例如“喂”给Gemini一张手写物理题,它不仅能看懂,而且还可以辨别手写答案的对错。



在此基础上,若是选择一个错误的题目,我们还可以跟Gemini通过自然语言沟通,让它对每一个细节步骤进行详解。



在看图像做理解和推理方面,谷歌还亮出了更多有意思的案例。

例如替换图片素材的组合方式,Gemini就能像人一样精准猜中所指的电影名字



就连下面这种高难度的也能hold住:



再如寻找两张图片的相似之处:



更有意思的是,谷歌还特意用中文做了个demo,来展示Gemini对多张图片的组合理解能力:



那么接下来的问题就是:Gemini是如何做到的?

60页报告透露技术细节

谷歌Gemini背后技术的杀手锏,便是原生多模态(natively multimodal)。

因为以往创建多模态大模型的方法,通常是为不同的模态训练单独的组件,然后将它们拼接在一起,大致模拟其中的一些功能。

这样训练出来的模型虽然有时可以很好地执行某些任务(比如描述图像),但在面对更具概念性和复杂推理的情况下,就会出现表现不佳的结果。

而谷歌Gemini所强调的原生多模态,是指从一开始就对不同的模态进行预训练,然后用额外的多模态数据对其进行微调,以此来进一步完善大模型的有效性。

谷歌对此表示:

这样的训练方法,有助于Gemini从头开始无缝地理解和推理各种输入,远远优于现有的多模态模型;而且它的功能在几乎每个领域都是最先进的。



具体到模型架构方面,Gemini基于增强的Transformer decoder打造,采用了高效attention机制(如multi-query attention),支持32k上下文长度。



尽管没有透露Ultra和Pro版本的具体参数规模,但技术报告中提到,谷歌使用TPUv5e和TPUv4来训练Gemini。

训练Gemini Ultra使用了跨多个数据中心的大量TPUv4。这意味着与谷歌此前的主力大模型PaLM-2相比,Gemini在规模上显著增大。

此前,PaLM-2被曝参数规模为3400亿。

Gemini Pro实装上线

竞争对手那边,OpenAI的GPTs惊艳全世界,微软的Copilot更是先一步渗透进全线产品。

因此Gemini一出,谷歌也当即强调:Gemini将通过谷歌产品推向数十亿用户

率先上线的是Gemini Pro。从今天起,谷歌的聊天机器人Bard将由Gemini Pro微调版本驱动。谷歌表示:

这是Bard自推出以来的最大升级。

谷歌还打算把Gemini引入手机:Pixel 8 Pro将是第一款运行Gemini Nano的智能手机。



另外,谷歌计划在接下来几个月中,将Gemini全面推向搜索、广告、Chrome和Duet AI等产品线。

根据官方数据,Gemini能使用户的搜索生成体验(SGE)速度更快、质量更高,比如在美国使用英语搜索延迟能减少40%。

值得关注还有,就在Gemini正式亮相的同时,谷歌还推出了专为大模型而设计的新一代TPU——Cloud TPU v5p。



那么,你觉得这一波,谷歌能赶上OpenAI的脚步吗?

参考链接:
[1]https://blog.google/technology/ai/google-gemini-ai
[2]https://storage.googleapis.com/deepmind-media/gemini/gemini_1_report.pdf
[3]https://youtu.be/jV1vkHv4zq8?si=jjAw0uV0dkpP3eVT

责任编辑:朴琳清_NBJS24703

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
湖南近50年来最强寒潮!大雪+冻雨还要持续多久?最新预报

湖南近50年来最强寒潮!大雪+冻雨还要持续多久?最新预报

北青网-北京青年报
2024-02-22 16:42:04
金晨丨171cm 43kg

金晨丨171cm 43kg

娱乐圈酸柠檬
2024-02-22 11:36:46
终于坐不住了?“三驾马车”几乎同时熄火,接下来靠什么拉动经济

终于坐不住了?“三驾马车”几乎同时熄火,接下来靠什么拉动经济

苏莫汐
2024-02-21 18:53:28
女子纹身时真空上阵,三个男人在一旁将其围住,眼神拉丝目不转睛

女子纹身时真空上阵,三个男人在一旁将其围住,眼神拉丝目不转睛

韩玥故事集
2024-02-22 14:15:44
冉雄飞:据传陈戌源被判15年、杜兆才被判13年,所以李铁含冤上诉

冉雄飞:据传陈戌源被判15年、杜兆才被判13年,所以李铁含冤上诉

直播吧
2024-02-22 15:59:12
李显龙:美国打败中国,就像打败苏联一样?惊人言论震惊世界

李显龙:美国打败中国,就像打败苏联一样?惊人言论震惊世界

说天说地说实事
2024-02-12 08:03:10
男子偷香火钱被抓后辩称菩萨给自己比了“OK” 法院:拘役五个月、罚款1000元

男子偷香火钱被抓后辩称菩萨给自己比了“OK” 法院:拘役五个月、罚款1000元

东方网
2024-02-22 17:47:11
美议员称不管谁当选新总统都将继续支持台湾地区,外交部回应

美议员称不管谁当选新总统都将继续支持台湾地区,外交部回应

澎湃新闻
2024-02-22 15:46:26
朱珠真不把网友当外人,一家3口在海南三亚度假,晒出多张泳装照

朱珠真不把网友当外人,一家3口在海南三亚度假,晒出多张泳装照

仙人掌说娱乐
2024-02-22 11:51:04
【观察】蒙古国遭遇50年不遇雪灾,“白色极寒”再次敲响警钟

【观察】蒙古国遭遇50年不遇雪灾,“白色极寒”再次敲响警钟

界面新闻
2024-02-22 09:36:46
娃哈哈创始人宗庆后在ICU救治情况平稳 曾在76岁获基金从业资格

娃哈哈创始人宗庆后在ICU救治情况平稳 曾在76岁获基金从业资格

雷达财经
2024-02-22 17:04:01
重磅!曝李铁判无期,陈戌源15年,杜兆才13年,前国足主帅上诉

重磅!曝李铁判无期,陈戌源15年,杜兆才13年,前国足主帅上诉

足球慢镜头
2024-02-22 16:12:51
同济崩了!再见,土木系!

同济崩了!再见,土木系!

MICU设计
2024-02-22 09:16:35
郑州海洋馆潜水员溺亡!馆内谎称是假人,知情者曝双方200万和解

郑州海洋馆潜水员溺亡!馆内谎称是假人,知情者曝双方200万和解

洛洛女巫
2024-02-22 10:52:07
2月22日俄乌最新:格拉西莫夫复活?

2月22日俄乌最新:格拉西莫夫复活?

西楼饮月
2024-02-22 14:11:06
字节跳动打破35岁魔咒,一群40多岁的人进入了字节,年薪60万起。

字节跳动打破35岁魔咒,一群40多岁的人进入了字节,年薪60万起。

迈里英鹤
2024-02-22 14:42:44
中国“AI教父”李一舟栽了!被曝靠套壳网站敛财一个亿,最惨下场:欠债+坐牢

中国“AI教父”李一舟栽了!被曝靠套壳网站敛财一个亿,最惨下场:欠债+坐牢

老郭在学习
2024-02-22 17:50:36
被撞后的沥心沙大桥如何修复?专家:若未伤主墩,修复时间会短一些

被撞后的沥心沙大桥如何修复?专家:若未伤主墩,修复时间会短一些

封面新闻
2024-02-22 16:21:26
甘肃网红“杨老二”去世 亲哥哥回应:他在社火表演时被人灌酒,躺床上休息再没醒来

甘肃网红“杨老二”去世 亲哥哥回应:他在社火表演时被人灌酒,躺床上休息再没醒来

红星新闻
2024-02-22 16:40:24
不播亚冠?山东体育频道:多次询问亚冠版权,对方明确回复不卖

不播亚冠?山东体育频道:多次询问亚冠版权,对方明确回复不卖

直播吧
2024-02-22 12:27:10
2024-02-22 18:34:44
量子位
量子位
追踪人工智能动态
9077文章数 174945关注度
往期回顾 全部

科技要闻

看懂英伟达财报:业绩炸裂背后的"内忧外患"

头条要闻

乌武装部队总司令继子公开支持俄罗斯 还想获得俄身份

头条要闻

乌武装部队总司令继子公开支持俄罗斯 还想获得俄身份

体育要闻

重伤,暴瘦30斤!昔日男篮新星再进国家队

娱乐要闻

鹿晗关晓彤聚餐被拍,男方打扮低调

财经要闻

娃哈哈创始人宗庆后在ICU抢救

汽车要闻

2024款蔚来全系车型售29.8万起 最强NOMI上车

态度原创

旅游
艺术
本地
公开课
军事航空

旅游要闻

中国最赚钱的航空公司,到底有多抠?

艺术要闻

看展览|劳尔·卡尼巴诺:具有超现实味道的古巴人文景观

本地新闻

云游中国|天山脚下,在佛国龟兹找回遗失的灵魂

公开课

何为人生第一等事?

军事要闻

龙年首飞 歼11B超清壁纸上新

无障碍浏览 进入关怀版