网易首页 > 网易号 > 正文 申请入驻

谷歌最新「0.27B」Gemma 3开源!身板小却猛如虎,开发者直呼救命稻草

0
分享至

新智元报道

编辑:元宇

【新智元导读】大模型越来越大,开发者的「算力焦虑」也越来越严重。谷歌的Gemma却另辟蹊径:模型不求大,够用才是王道。Gemma 3系列,尤其是新成员Gemma 3 270M正是这一理念的最佳诠释者。它虽然「身板小」,却能承担各种AI实战任务,还能「组团」一起干大事。

大块头不等于大智慧。

这在生成式AI领域,已逐渐成为共识。

Gemma 3系列的成功就是一个很好的例证。

在过去几个月,是Gemma 3系列开源模型的高光时刻。

先是Gemma 3和Gemma 3 QAT,在云端和本地桌面加速器上,均跑出了SOTA级别的表现。

紧接着,主打「移动优先」的Gemma 3n完整版,将强大、实时的多模态生成式AI直接带入边缘设备。

上周,Gemma系列模型的总下载量突破了2亿大关,Gemmaverse社区的热度空前高涨。

Google又乘势推出了Gemma 3 270M。

看名字中的「M」就知道,它的目标不是「通吃一切」,而是要以更低成本、更高效率、更快速度地完成你交给它的活。

小身板,真能打

Gemma 3 270M是Gemma 3系列中参数规模最小的。

别看它个头小,能量却不可小觑。

在IFEval基准测试上,Gemma 3 270M树立了性能新标杆。

它的IFEval分数接近50%,显著高于一些相同尺寸甚至更大尺寸的模型。

在小模型阵营里,它是唯一接近50%水平的,意味着它在指令跟随任务中表现非常突出。

再加上其出色的文本结构化能力,让它更适用于面向特定任务的微调,从而在端侧部署和科研应用方面均展现出独特优势。

在效率上,Gemma 3 270M在中小模型中表现最优,甚至超越了更大规模的Qwen 2.5 0.5B和SmolLM2-360M;但与1B级别的模型相比,仍有20~25个百分点的IFEval差距:这是极致压缩带来的不可避免损失。

综合来看,Gemma 3 270M重要的性能亮点有:

小体积,强架构:模型中的1.7亿参数用在词嵌入层,支持256k超大词表,能识别冷门Token,适合细分行业和语言环境下微调使用。剩下1亿参数,则用于Transformer块;

省电狂魔:Google在Pixel 9 Pro上实测,INT4量化版本进行25轮对话只耗0.75%电量,是迄今最节能的Gemma模型;

跟指令超听话:除了预训练版本外,Google还放出了指令微调模型,开箱即用,能直接处理常规的指令类任务;

量产级QAT支持,部署无忧:模型提供了量化感知训练(QAT)版本,可在INT4精度下运行,性能几乎无损,特别适合资源受限设备的部署需求。

用对AI,才能事半功倍

「挂一幅画,你会用铁锤吗?」

这句话提醒我们:用对AI才能事半功倍。

不是每个AI项目,都需要动用几十亿参数的大模型(大锤),更多情况下,像Gemma 3 270M这样的小模型,反而是你需要的那把「AI扳手」。

Gemma 3 270M推出,正是延续了该系列模型「用对工具」的理念。

它是一款「开箱即战」的高性能基础模型,正如上文在它的性能亮点中提到的,出色的指令跟随能力,经过简单微调后,便可以在文本分类、数据抽取等任务中游刃有余。

此外,它还能直接部署在手机,或者树莓派这样的单片机电脑上。

有了这样一个小而强、易部署的模型作为起点,开发者可以打造轻量、快速且极具成本优势的生产系统。

Plaito AI的CTO Greg Mars对Gemma 3 270M颇为赞赏,认为它可以在自己的M4 Pro上极其快速、高质量的运行。

LLM研究工程师Sebastian Raschka,还贴出了Gemma 3 270M和Qwen3 0.6B的并排比较。

他认为最大的惊喜是Gemma 3 270M只有4个注意力头。

和Qwen3 0.6B的16个注意力头相比,Gemma 3 270M只有4个注意力头,这意味着后者在推理时key/value复用率高,显著降低显存占用和延迟。

因此,Gemma 3 270M更适合部署在低配的本地环境。

虽然Gemma 3 270M刚刚发布,但Gemma 3系列在不同规模的任务中,早已展现出「小而专」的威力。

例如,Adaptive ML与SK Telecom合作解决复杂多语言内容审核的难题时,并没有依赖庞大的通用模型,而是选择了微调一个Gemma 3 4B模型。结果不仅达标,甚至超越了更大体量的专有模型。

Gemma 3 270M延续了这一理念,将「小而专」进一步压缩到极致,把高效、精准的特性下放到更多开发者可直接使用的规模。

比如,你可以用它构建一个「多模型小分队」,每个模型专攻一类任务。

但别以为这种小模型只能用在「单调的」企业系统里,它的专业化能力,同样也能在创意领域干点有趣的事。

例如,Hugging Face的开发者Joshua,就用Gemma 3 270M搞了个基于Transformers.js的网页应用,生成睡前故事,支持离线运行,还能个性化生成角色和情节。

270M,是谁的「理想型」

Gemma 3 270M承袭了Gemma系列的先进架构与强大预训练,具备打造定制应用的理想基础。

如果你的应用场景与下列条件类似,那它就是你的「理想型」:

任务明确、数据量大的场景:如情感分析、实体识别、查询路由、结构化转换、创意写作和合规检查类任务;

预算有限,对响应速度有高要求:模型微调后,可运行在轻量、低成本的本地或终端设备上,能帮你省下大模型的推理成本,速度更快;

希望快速迭代和上线:它可以小时级别完成微调实验,远快于大模型的开发周期;

需要本地部署,保证隐私:Gemma 3 270M支持完全本地化运行,用户数据无需上传云端;

构建多个小模型一起跑:一台设备上部署多个任务专家模型也不吃力,控制预算的同时实现模型能力最大化。

Gemma 3 270M采用与其他Gemma 3模型一致的架构,并配套提供微调方法与工具,帮助开发者轻松将其打造成自己专属的解决方案。

下载模型:Hugging Face、Ollama、Kaggle、LM Studio、Docker全平台覆盖,可以获取预训练模型及指令微调版本;

试跑体验:在Vertex AI或llama.cpp、Gemma.cpp、LiteRT、Keras、MLX等主流工具上都能玩;

开始微调:使用Hugging Face、UnSloth、JAX等你熟悉的工具开展微调;

部署上线:微调完成后,可部署到本地环境、Google Cloud Run,或任意你选择的平台。

Gemmaverse的核心理念是:创新无关大小。

Gemma 3,尤其是Gemma 3 270M,是开发者构建「专精小模型舰队」的理想起点。虽然它们身板小,却能承担起各种AI实战任务,组团干大活一点也不含糊。

Gemma 3:开发者手中的「瑞士军刀」

2024年2月,Google推出了Gemma系列的首个版本。

作为Gemini的轻量级版本,Google推出它的初衷很简单,让开发者不再为「模型太大跑不动、模型太小能力不够」而纠结。

Gemma 3上线后,「开源友好」「性价比高」「可塑性强」是众多开发者对它的一致评价,俨然已成为开发者AI工具箱里的「瑞士军刀」。

大模型越来越大,随之而来的是越来越严重的「算力焦虑」,市场对于低硬件需求且效能强劲的AI解决方案始终存在着巨大需求。

「模型不求大,够用才是王道」。

Gemma系列的这一设计理念,正是对上述市场趋势的积极回应,这次Gemma 3 270M的发布,更是将该理念推向一个新的阶段。

参考资料:

https://developers.googleblog.com/en/introducing-gemma-3-270m/

https://huggingface.co/google/gemma-3-270m

https://www.youtube.com/watch?v=qcjrduz_YS8

https://ikala.ai/zh-tw/blog/ikala-ai-insight/gemma-3-intro/

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
重大警告!高盛恐慌指数逼近最大值!不出意外,明天A股会这样走

重大警告!高盛恐慌指数逼近最大值!不出意外,明天A股会这样走

虎哥闲聊
2026-11-22 13:50:42
反转!利物浦球星巴尔科拉约会跑路真相曝光:根本不是小气,是被精准套路?

反转!利物浦球星巴尔科拉约会跑路真相曝光:根本不是小气,是被精准套路?

手工制作阿歼
2026-11-22 01:36:11
深圳街头那一万四千辆不喝油的公交车,把老外看愣了

深圳街头那一万四千辆不喝油的公交车,把老外看愣了

音乐时光的娱乐
2026-11-21 04:37:48
延迟多次!沈阳这家大型超市终于要重新开业了

延迟多次!沈阳这家大型超市终于要重新开业了

沈阳生活圈i
2026-11-22 10:57:56
我在广东做男保姆,与女主人同吃同住,工资过万,却有苦不能说

我在广东做男保姆,与女主人同吃同住,工资过万,却有苦不能说

千秋历史
2026-07-18 18:50:50
震惊!香港27000港币招高管司机,每日工作12小时被当地人吐槽引发热议,网友:香港27000相当于内地四五千吧

震惊!香港27000港币招高管司机,每日工作12小时被当地人吐槽引发热议,网友:香港27000相当于内地四五千吧

火山詩话
2026-11-22 04:41:35
陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

陆毅说:“如果我女儿的男朋友很上进,但家境一般,我会棒打鸳鸯。因为我觉得门当户对很重要,而且婚姻要得到双方父母的祝福,才会幸福”

黎兜兜
2026-11-20 08:12:24
1948年,斯大林下令调查朱可夫,搜出85箱德国战利品;面对灭顶死局,朱可夫没跪没怒也没反抗,只抬头轻轻反问了一句话撕开了权力潜规则。

1948年,斯大林下令调查朱可夫,搜出85箱德国战利品;面对灭顶死局,朱可夫没跪没怒也没反抗,只抬头轻轻反问了一句话撕开了权力潜规则。

回京历史梦
2026-11-16 18:17:18
刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

刚刚,Anthropic攻下黎曼猜想,DeepSeek和国产模型在卖API

智能纪元AGI
2026-11-21 21:13:06
不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

不准中国接俄,也不准中国收台,更不准管制稀土。七国集团曾明确指出,中国不能援助俄罗斯,不能以武力改变台海现状,也不能限制稀土出口

扶苏聊历史
2026-11-18 15:55:59
免费也不要!日本国脚王牌惨遭巴萨闭门羹,能力再强也怕砸手里

免费也不要!日本国脚王牌惨遭巴萨闭门羹,能力再强也怕砸手里

零度眼看球
2026-11-22 07:14:49
曾仅存13只!佛山男子买甲鱼苗竟混进4只,科学家花40年培育926只

曾仅存13只!佛山男子买甲鱼苗竟混进4只,科学家花40年培育926只

云居历史
2026-11-21 03:29:16
一夜封神!马伦生涯首次大四喜,罗马标价6000–7000万欧合理吗

一夜封神!马伦生涯首次大四喜,罗马标价6000–7000万欧合理吗

未来展望
2026-11-22 16:13:43
不是迷信!明日小雪,记得:1不出、2不吃、3不洗、4不坐,别大意

不是迷信!明日小雪,记得:1不出、2不吃、3不洗、4不坐,别大意

小陆搞笑日常
2026-11-21 07:44:25
理科状元张晓勇:清华毕业5年后回乡做保安,现在每月工资5000元

理科状元张晓勇:清华毕业5年后回乡做保安,现在每月工资5000元

壹知眠羊
2026-11-22 07:12:13
2分险胜!辽宁93-91同曦,末节惊魂反扑,辽篮顶住压力拿下生死战

2分险胜!辽宁93-91同曦,末节惊魂反扑,辽篮顶住压力拿下生死战

小兰看体育
2026-11-21 22:26:57
“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

“喜欢吃红薯的人天塌了”冲上热搜!薯农:烤出来就是流“油”的;网友:用空气炸锅烤一样很香;专家提醒:这三类人要管住嘴

农民日报
2026-11-18 08:48:45
重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

财联社
2026-11-21 13:56:13
岚图汽车拿下10亿级大单

岚图汽车拿下10亿级大单

电动内参
2026-11-22 09:05:40
12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

12岁那年我在后山放羊发现邻居大嫂的秘密,一夜后我变成了大人

温情邮局
2025-05-16 11:57:12
2026-11-22 16:32:49
新智元 incentive-icons
新智元
AI产业主平台领航智能+时代
16742文章数 67254关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

头条要闻

女子花2万存脐带血如今公司注销"断联":我的血还在吗

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
时尚
艺术
亲子
家居

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

这些才是适合50岁女性的穿搭!衣服不花哨、不老气,得体又自然

艺术要闻

世界十大著名宫殿盘点:中国独占两席

亲子要闻

宝宝必看的5个启蒙动画,豆瓣评分都是在9.0以上

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版