网易首页 > 网易号 > 正文 申请入驻

Meta发布新模型Llama 4系列,首次使用“混合专家”架构

0
分享至

Meta 今日凌晨发布旗下最新Llama 4系列开源AI 模型,包含Llama 4 Scout、Llama 4 Maverick 和Llama 4 Behemoth。

Meta 表示,这些模型都经过了“大量未标注的文本、图像和视频数据”的训练,以使它们具备“广泛的视觉理解能力”。

“今天标志着原生多模态人工智能创新的新纪元的开启。我们推出了首批 Llama 4 模型:Llama 4 Scout 和 Llama 4 Maverick——这是我们迄今为止最先进的模型,也是多模态领域中同类最佳的模型。”

具体来看:

Llama 4 Scout

•170 亿活跃参数模型,配备 16 个专家。

•行业领先的上下文窗口,可处理 1000 万标记。

•在广泛认可的多项基准测试中,表现优于 Gemma 3、Gemini 2.0 Flash-Lite 和 Mistral 3.1。

Llama 4 Maverick

•170 亿活跃参数模型,配备 128 个专家。

•在图像定位方面处于行业顶尖水平,能够将用户提示与相关的视觉概念对齐,并将模型响应锚定在图像的特定区域。

•在广泛认可的多项基准测试中,表现优于 GPT-4o 和 Gemini 2.0 Flash。

•在推理和编码方面,与 DeepSeek v3 取得了相当的结果,而活跃参数仅为后者的一半。

•在性价比方面,其聊天版本在 LMArena 上的 ELO 得分为 1417。

Meta表示,这些模型之所以成为其迄今为止最好的模型,得益于从 Llama 4 Behemoth 中进行的知识蒸馏,而 Llama 4 Behemoth 是其迄今为止最强大的模型。Llama 4 Behemoth 仍在训练中,目前在专注于 STEM 的基准测试中,表现优于 GPT-4.5、Claude Sonnet 3.7 和 Gemini 2.0 Pro。

Llama 4 系列模型是该公司旗下首批采用混合专家(MoE)架构的模型,这种架构在训练和回答用户查询时的效率更高。

“混合专家架构”是将数据处理任务分解为子任务,然后将它们委派给更小的、专门的“专家”模型。(三言科技)

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
连胜文公开对郑丽文“训话”:引恩师经验划红线,防即兴失言毛病

连胜文公开对郑丽文“训话”:引恩师经验划红线,防即兴失言毛病

曹焋解说
2026-04-05 08:28:27
有幸去了趟西安,被颠覆了三观,西安人的生活,让我大开眼界

有幸去了趟西安,被颠覆了三观,西安人的生活,让我大开眼界

据说说娱乐
2026-04-05 00:06:27
陈光标到底是怎么发家的?他为什么有那么多钱可以捐?

陈光标到底是怎么发家的?他为什么有那么多钱可以捐?

担扑
2026-04-03 13:56:56
宋宁峰小三真实身份曝光!是高露助理比男方小20岁,长相酷似齐溪

宋宁峰小三真实身份曝光!是高露助理比男方小20岁,长相酷似齐溪

萌神木木
2026-04-04 10:14:59
天兵三号发射受挫:9台发动机协同工作成技术瓶颈

天兵三号发射受挫:9台发动机协同工作成技术瓶颈

空天论道
2026-04-03 16:58:59
最低调普京女婿被亿万富豪当街暴打:拒绝10亿赔偿,只提一个要求

最低调普京女婿被亿万富豪当街暴打:拒绝10亿赔偿,只提一个要求

贰文
2024-10-31 00:30:11
全球首家AI妓院,革了成人行业的命

全球首家AI妓院,革了成人行业的命

广告案例精选
2026-04-02 14:49:22
11点马上开始!王楚钦+孙颖莎领衔!中华儿女上演四场大外战

11点马上开始!王楚钦+孙颖莎领衔!中华儿女上演四场大外战

运动帮
2026-04-05 09:12:42
为什么说唯一真正把农民当人的苏联领导人,可能就是赫鲁晓夫?

为什么说唯一真正把农民当人的苏联领导人,可能就是赫鲁晓夫?

流苏晚晴
2026-03-25 18:21:13
逼走陈忠和,打压刘国梁,排挤郎平,90岁“体坛恶人”如今啥情况

逼走陈忠和,打压刘国梁,排挤郎平,90岁“体坛恶人”如今啥情况

拳击时空
2026-04-04 06:04:24
挺进温布利,切尔西近10个赛季第7次晋级足总杯半决赛

挺进温布利,切尔西近10个赛季第7次晋级足总杯半决赛

懂球帝
2026-04-05 03:00:09
詹俊谈阿森纳被淘汰:只能把这个视为“减轻包袱,突击重点”

詹俊谈阿森纳被淘汰:只能把这个视为“减轻包袱,突击重点”

懂球帝
2026-04-05 08:58:17
白酒再次被关注!医生研究发现:喝得越多,寿命或越短告诉你真相

白酒再次被关注!医生研究发现:喝得越多,寿命或越短告诉你真相

健康科普365
2026-03-29 18:30:09
1-2大冷门,英超第一遭低级别球队淘汰,阿森纳无缘足总杯四强

1-2大冷门,英超第一遭低级别球队淘汰,阿森纳无缘足总杯四强

侧身凌空斩
2026-04-05 04:55:14
毛泽民被盛世才残忍杀害,盛世才逃到台湾后,岳父一家竟惨遭灭门

毛泽民被盛世才残忍杀害,盛世才逃到台湾后,岳父一家竟惨遭灭门

磊子讲史
2026-03-28 15:51:54
暖心!张雪峰珍贵旧照曝光,张姩菡捏着爸爸耳朵,李丽婧满脸青涩

暖心!张雪峰珍贵旧照曝光,张姩菡捏着爸爸耳朵,李丽婧满脸青涩

壹月情感
2026-04-04 22:43:58
曝俄罗斯大学校长被要求征召学生入伍!配额至少2%

曝俄罗斯大学校长被要求征召学生入伍!配额至少2%

项鹏飞
2026-04-02 20:41:02
大家有没有莫名不喜欢一类长相?网友:面相这个东西,还真有学问

大家有没有莫名不喜欢一类长相?网友:面相这个东西,还真有学问

另子维爱读史
2026-03-20 21:45:48
2-1!半场多打1人艰难绝杀 11.7亿豪门笑傲恩怨对决6连胜7分领跑

2-1!半场多打1人艰难绝杀 11.7亿豪门笑傲恩怨对决6连胜7分领跑

狍子歪解体坛
2026-04-05 05:02:13
40岁后,中年人管理体重最佳的方法,不是拼命运动,而是提升代谢

40岁后,中年人管理体重最佳的方法,不是拼命运动,而是提升代谢

运动健身号
2026-04-05 09:20:17
2026-04-05 09:56:49
三言科技 incentive-icons
三言科技
聚焦新未来新科技,严肃又活泼。
99552文章数 66816关注度
往期回顾 全部

科技要闻

小米、字节“老将”带队,Meta秘密布局AI新硬件

头条要闻

牛弹琴:伊朗民众拿枪上山搜寻 美军飞行员有四种结局

头条要闻

牛弹琴:伊朗民众拿枪上山搜寻 美军飞行员有四种结局

体育要闻

刹不住的泰格·伍兹,口袋里的两粒药丸

娱乐要闻

Q女士反击,否认逼宋宁峰张婉婷离婚

财经要闻

谁造出了优思益这头“怪物”?

汽车要闻

17万级海豹07EV 不仅续航长还有9分钟满电的快乐

态度原创

亲子
时尚
房产
教育
公开课

亲子要闻

我的互联网女鹅清单,又添了一位心头宝

女人不管多大年纪衣服不要随便穿,这些穿搭可借鉴,优雅显瘦

房产要闻

小阳春全面启动!现房,才是这波行情里最稳的上车票

教育要闻

追忆“人民教育家”于漪老师

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版