网易首页 > 网易科技 > 网易科技 > 正文

谷歌发布开源大模型Gemma:平均性能超Llama,可在笔记本运行

0
分享至
Gemma 模型可以在笔记本电脑、台式机、物联网、移动设备和云端等多个主流设备类型上运行


2月22日消息,今日凌晨,Google宣布推出先进的轻量级开放模型系列Gemma,该模型采用了与创建 Gemini 模型相同的研究和技术。

Google表示,受到 Gemini 的启发,Google DeepMind 和 Google 其他团队合作开发了 Gemma,并用拉丁语中意为“宝石”的 gemma 为其命名。在发布模型权重的同时,还推出了一系列工具,旨在支持开发者创新,促进合作,并将指导开发者如何负责任地使用 Gemma 模型。

Google方面称,从今天起,Gemma 在全球范围内开放使用。将发布两种权重规模的模型:Gemma 2B 和 Gemma 7B。每种规模都有预训练和指令微调版本。

“新的 Responsible Generative AI Toolkit 为使用 Gemma 创建更安全的 AI 应用程序提供指导和必备工具。我们通过原生 Keras 3.0为所有主要框架(JAX、PyTorch 和 TensorFlow)提供推理和监督微调(SFT)的工具链。”

与此同时,主打上手即用,该模型与 Colab 和 Kaggle notebooks,以及与 Hugging Face、MaxText 和 NVIDIA NeMo 等受欢迎的工具集成,让开始使用 Gemma 变得简单容易。

更为重要的是,经过预训练和指令微调的 Gemma 模型可以在您的笔记本电脑、工作站或 Google Cloud 上运行,并可轻松部署在 Vertex AI 和 Google Kubernetes Engine(GKE)上。


在性能表现上,Gemma 在关键基准测试集上大大超过了更大的模型,同时还严格遵守了我们对安全和负责任输出的标准。

针对开发者,谷歌方面说明,开发者可以基于自己的数据微调 Gemma 模型以适应特定应用需求,例如摘要或检索增强生成 (RAG)。Gemma 可支持多种工具和系统:

1、多框架工具:Gemma 提供 Keras 3.0、原生 PyTorch、JAX 和 Hugging Face Transformers 多个框架的参考实现,您可以选择熟悉的框架进行推理和微调。

2、跨设备兼容:Gemma 模型可以在笔记本电脑、台式机、物联网、移动设备和云端等多个主流设备类型上运行,支持广泛的 AI 功能。

3、前沿的硬件平台: 我们与 NVIDIA 合作,使用 NVIDIA GPU 来优化 Gemma 模型,确保业界领先的性能与前沿技术的整合应用。

4、基于 Google Cloud 的优化:Vertex AI 提供广泛的 MLOps 工具集,其中包含一系列微调选项和内置推理优化的一键部署功能。您可以使用完全托管的 Vertex AI 工具或自行管理的 GKE 来进行高级定制,以经济高效的方式自行选择部署在 GPU、TPU 或 CPU 基础设施上。

在负责任方面,Gemma 在设计时将 AI 原则放在首位。为了使 Gemma 预训练模型安全可靠,谷歌使用自动技术,从训练集中过滤掉特定的个人信息及其他敏感数据。此外,我们进行了大量的微调和人类反馈强化学习(RLHF),使指令微调模型与负责任的行为保持一致。

谷歌方面表示,为了解并降低 Gemma 模型带来的风险,谷歌进行了强有力的评估,包括手工红队测试、自动对抗性测试,以及对危险活动的模型能力评估。(定西)

延伸阅读
相关推荐
热点推荐
大学生取保回家,父亲跪求和解遭拒绝,3名醉汉真实身份遭曝光!

大学生取保回家,父亲跪求和解遭拒绝,3名醉汉真实身份遭曝光!

叶公子
2024-04-16 20:52:24
用开水泼丈夫后续:邻居放出第二段视频,讲述更多细节伤得很重

用开水泼丈夫后续:邻居放出第二段视频,讲述更多细节伤得很重

汉史趣闻
2024-04-17 15:49:21
又没进季后赛,库里历史地位降,若杜兰特没去勇士,库里更要打折

又没进季后赛,库里历史地位降,若杜兰特没去勇士,库里更要打折

好火子
2024-04-18 02:18:34
四问西安市财政局,纳税人监督你们花钱就是指手画脚吗?

四问西安市财政局,纳税人监督你们花钱就是指手画脚吗?

打破砂锅
2024-04-15 19:39:47
川渝多地网友反映家中换新表后燃气费异常上涨,当地官方回应

川渝多地网友反映家中换新表后燃气费异常上涨,当地官方回应

澎湃新闻
2024-04-16 20:00:27
2002年,广东50岁夫妻失子后生龙凤胎,10年后因无力抚养跳楼自杀

2002年,广东50岁夫妻失子后生龙凤胎,10年后因无力抚养跳楼自杀

百事所谈汇
2024-04-11 15:17:37
国际评级机构惠誉将六家银行评级展望下调至负面

国际评级机构惠誉将六家银行评级展望下调至负面

凡人学电脑
2024-04-17 00:50:34
震惊!一边是特斯拉赔偿n+3裁员,一边是深圳劳动仲裁网熔断?

震惊!一边是特斯拉赔偿n+3裁员,一边是深圳劳动仲裁网熔断?

火山诗话
2024-04-17 19:49:09
逼中国自废三张王牌?朔尔茨访华,态度非常傲慢,商务部反将一军

逼中国自废三张王牌?朔尔茨访华,态度非常傲慢,商务部反将一军

星辰故事屋
2024-04-16 13:21:55
30万彩礼遭拒,男友分手另娶她人,女孩崩溃落泪:我只想要个态度

30万彩礼遭拒,男友分手另娶她人,女孩崩溃落泪:我只想要个态度

子芫伴你成长
2024-04-17 06:40:03
为什么现在没人提实事求是了?

为什么现在没人提实事求是了?

曹多鱼的财经世界
2024-04-17 09:37:06
重磅罚单!NBA官宣:猛龙球员波特涉嫌违规泄密赌球 被终身禁赛

重磅罚单!NBA官宣:猛龙球员波特涉嫌违规泄密赌球 被终身禁赛

醉卧浮生
2024-04-18 00:40:18
“鸿茅药酒事件”当事人卖书求生?谭秦东回应:倒计时的人生 我想有尊严地走完

“鸿茅药酒事件”当事人卖书求生?谭秦东回应:倒计时的人生 我想有尊严地走完

封面新闻
2024-04-17 10:38:14
34岁网红飞飞一杯酒因心脏病去世,天天喝酒,离世当天喝临期啤酒

34岁网红飞飞一杯酒因心脏病去世,天天喝酒,离世当天喝临期啤酒

古希腊掌管月桂的神
2024-04-17 19:54:03
巴萨后卫阿劳霍被红牌罚下, 裁判专家:阿劳霍那甚至不是犯规!

巴萨后卫阿劳霍被红牌罚下, 裁判专家:阿劳霍那甚至不是犯规!

星耀国际足坛
2024-04-17 13:05:59
刚刚,中美大消息!

刚刚,中美大消息!

证券时报
2024-04-17 15:11:08
五一调休冲上热搜!专家:11天的公共假期已经不少,与欧美持平

五一调休冲上热搜!专家:11天的公共假期已经不少,与欧美持平

小萝卜丝
2024-04-17 15:51:42
居民集资4.7亿元,把自家小区推倒重建,钱从哪来?

居民集资4.7亿元,把自家小区推倒重建,钱从哪来?

上观新闻
2024-04-17 15:08:16
保时捷回应小米“抄袭”:一个脏字没说,但是句句打脸,字字诛心

保时捷回应小米“抄袭”:一个脏字没说,但是句句打脸,字字诛心

南风西洲
2024-04-16 22:11:36
乌克兰击毁俄罗斯的坦克上,用中文写着这样一句话!你怎么看?

乌克兰击毁俄罗斯的坦克上,用中文写着这样一句话!你怎么看?

翻开历史和现实
2024-04-17 12:41:55
2024-04-18 02:42:44

科技要闻

特斯拉大裁员涉中国市场 销售部门是重灾区

头条要闻

广西南宁一男子疑因土地纠纷持刀行凶 致4死1伤

头条要闻

广西南宁一男子疑因土地纠纷持刀行凶 致4死1伤

体育要闻

5年,他们从欧冠淘汰赛,沦落到德乙降级区

娱乐要闻

霍建华老了?总比糊了强

财经要闻

割完股民负债上百亿 他坐着飞机颠儿不见了

汽车要闻

一口气发三款新车 方程豹汽车全集结

态度原创

教育
艺术
游戏
公开课
军事航空

教育要闻

悉尼暴力事件中国留澳学生1死1伤!澳大利亚留学还安全吗?

艺术要闻

艺术名画|波兰当代艺术家威廉·萨斯纳尔的绘画作品

《艾尔登法环》PC销量或破千万 静待“黄金树之影”

公开课

反抗痛苦,最好的方式就是读书

军事要闻

外媒曝俄乌2022年谈判破裂原因

无障碍浏览 进入关怀版
×