网易首页 > 网易号 > 正文 申请入驻

Meta发布新模型Llama 4系列,首次使用“混合专家”架构

0
分享至

Meta 今日凌晨发布旗下最新Llama 4系列开源AI 模型,包含Llama 4 Scout、Llama 4 Maverick 和Llama 4 Behemoth。

Meta 表示,这些模型都经过了“大量未标注的文本、图像和视频数据”的训练,以使它们具备“广泛的视觉理解能力”。

“今天标志着原生多模态人工智能创新的新纪元的开启。我们推出了首批 Llama 4 模型:Llama 4 Scout 和 Llama 4 Maverick——这是我们迄今为止最先进的模型,也是多模态领域中同类最佳的模型。”

具体来看:

Llama 4 Scout

•170 亿活跃参数模型,配备 16 个专家。

•行业领先的上下文窗口,可处理 1000 万标记。

•在广泛认可的多项基准测试中,表现优于 Gemma 3、Gemini 2.0 Flash-Lite 和 Mistral 3.1。

Llama 4 Maverick

•170 亿活跃参数模型,配备 128 个专家。

•在图像定位方面处于行业顶尖水平,能够将用户提示与相关的视觉概念对齐,并将模型响应锚定在图像的特定区域。

•在广泛认可的多项基准测试中,表现优于 GPT-4o 和 Gemini 2.0 Flash。

•在推理和编码方面,与 DeepSeek v3 取得了相当的结果,而活跃参数仅为后者的一半。

•在性价比方面,其聊天版本在 LMArena 上的 ELO 得分为 1417。

Meta表示,这些模型之所以成为其迄今为止最好的模型,得益于从 Llama 4 Behemoth 中进行的知识蒸馏,而 Llama 4 Behemoth 是其迄今为止最强大的模型。Llama 4 Behemoth 仍在训练中,目前在专注于 STEM 的基准测试中,表现优于 GPT-4.5、Claude Sonnet 3.7 和 Gemini 2.0 Pro。

Llama 4 系列模型是该公司旗下首批采用混合专家(MoE)架构的模型,这种架构在训练和回答用户查询时的效率更高。

“混合专家架构”是将数据处理任务分解为子任务,然后将它们委派给更小的、专门的“专家”模型。(三言科技)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
珠峰一半在中国,一半在尼泊尔,为何全世界都默认是中国领地?

珠峰一半在中国,一半在尼泊尔,为何全世界都默认是中国领地?

抽象派大师
2026-06-01 02:00:38
万学文同志逝世

万学文同志逝世

上观新闻
2026-06-01 13:29:04
韩国股市,涨到熔断

韩国股市,涨到熔断

鲁中晨报
2026-06-01 10:51:03
直接把人问慌了!中方代表现场质问荷兰:为何侵犯中国主权?

直接把人问慌了!中方代表现场质问荷兰:为何侵犯中国主权?

阿龙聊军事
2026-06-01 05:48:13
饥荒饿死1/3人口、2.5万精英被处决:5月31日哈萨克在纪念什么

饥荒饿死1/3人口、2.5万精英被处决:5月31日哈萨克在纪念什么

卷史
2026-06-01 11:19:40
德国巨头卡了中国30年的空气悬架,被上海嘉定一个镇解决了

德国巨头卡了中国30年的空气悬架,被上海嘉定一个镇解决了

闻识
2026-06-01 02:15:52
司机激活智驾后追尾停着的货车 致3人死亡 长安启源回应

司机激活智驾后追尾停着的货车 致3人死亡 长安启源回应

闪电新闻
2026-06-01 10:05:48
闲鱼读取用户手机内文物照片上架售卖?陕历博“镇馆之宝”被标价6000元,平台回应

闲鱼读取用户手机内文物照片上架售卖?陕历博“镇馆之宝”被标价6000元,平台回应

上游新闻
2026-06-01 09:45:05
女子蹭卡进山姆待一天,有吃有喝空调还能吹到饱

女子蹭卡进山姆待一天,有吃有喝空调还能吹到饱

映射生活的身影
2026-05-31 21:37:09
唐山大地震来临前的诡异征兆,灾难现场比影视中更惨烈

唐山大地震来临前的诡异征兆,灾难现场比影视中更惨烈

史政先锋
2026-05-30 17:08:06
美军宣布:对伊朗实施打击,摧毁其防空系统、控制站等,报复其击落美军无人机等“侵略行为”!国际油价大涨!科威特:正拦截导弹和无人机

美军宣布:对伊朗实施打击,摧毁其防空系统、控制站等,报复其击落美军无人机等“侵略行为”!国际油价大涨!科威特:正拦截导弹和无人机

每日经济新闻
2026-06-01 12:29:55
争口气吧!再过2年,三星和SK凯力士两家企业利润,或将超中国所有国企利润总和

争口气吧!再过2年,三星和SK凯力士两家企业利润,或将超中国所有国企利润总和

回旋镖
2026-05-31 20:50:31
索菲亚教堂棚顶被掀飞?附近居民称“一切正常,有很多游客”,当地回应:暂未接到报告

索菲亚教堂棚顶被掀飞?附近居民称“一切正常,有很多游客”,当地回应:暂未接到报告

潇湘晨报
2026-06-01 12:57:26
军事 | 普京将此残骸交于美方,到底什么意思?

军事 | 普京将此残骸交于美方,到底什么意思?

新民周刊
2026-06-01 09:08:31
云南瑞丽:请广大市民保持冷静,不恐慌、不聚集

云南瑞丽:请广大市民保持冷静,不恐慌、不聚集

黄河新闻网吕梁
2026-06-01 10:43:02
美国媒体报道 伊朗已疏通大量被阻塞的地下导弹设施入口

美国媒体报道 伊朗已疏通大量被阻塞的地下导弹设施入口

国际在线
2026-06-01 14:23:12
释永信4罪并罚,不仅私生子多,资产多,还有3位家喻户晓明星徒弟

释永信4罪并罚,不仅私生子多,资产多,还有3位家喻户晓明星徒弟

天天热点见闻
2026-05-31 06:12:51
十年前10万唱3首,如今爆红仍原价,大衣哥:不该挣的不挣

十年前10万唱3首,如今爆红仍原价,大衣哥:不该挣的不挣

冷紫葉
2026-05-31 19:52:08
日元大跌,全世界都抢着薅日本的羊毛!

日元大跌,全世界都抢着薅日本的羊毛!

青青子衿
2026-06-01 00:07:51
给5岁女儿买11200元连衣裙,明明打对折,结果专柜收了全款!销售求原谅:工资低也可怜;爸爸怒了:他们道德绑架!

给5岁女儿买11200元连衣裙,明明打对折,结果专柜收了全款!销售求原谅:工资低也可怜;爸爸怒了:他们道德绑架!

扬子晚报
2026-06-01 12:26:28
2026-06-01 17:19:00
三言科技 incentive-icons
三言科技
聚焦新未来新科技,严肃又活泼。
101516文章数 66847关注度
往期回顾 全部

科技要闻

两大芯片巨头打起来了

头条要闻

执业3年无合同被认为是"小时工" 上海女医生拟提仲裁

头条要闻

执业3年无合同被认为是"小时工" 上海女医生拟提仲裁

体育要闻

哭过之后,文班亚马想给波波维奇打电话

娱乐要闻

奚梦瑶婚礼现场图!一双儿女当花童

财经要闻

网红驱蚊产品,标注化妆品竟含农药成分

汽车要闻

零跑5月交付超8万台再创纪录 全新C10、C11、C16即将焕新上市

态度原创

艺术
本地
房产
数码
公开课

艺术要闻

吴镇写竹,清清爽爽

本地新闻

用剪纸的方式,打开江苏扬州

房产要闻

100亿!1371亩!海口城市更新,再爆超级项目!

数码要闻

华为MatePad Pro Max首发教育空间 跳出同质化困局

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版