网易首页 > 网易号 > 正文 申请入驻

Meta 发布 Llama API,携手打造最快 AI 推理解决方案

0
分享至

IT之家 4 月 30 日消息,在首届 LlamaCon 大会上,Meta 公司在推出独立 AI 应用之外,还发布了 Llama API,目前以免费预览形式向开发者开放。

IT之家援引博文,Llama API 支持开发者测试包括 Llama 4 Scout 和 Llama 4 Maverick 在内的最新模型,提供一键 API 密钥创建以及轻量级的 TypeScript 和 Python SDK。

开发者可通过一键创建 API 密钥,快速上手使用,同时 API 还提供轻量级的 TypeScript 和 Python SDK。为了方便开发者从 OpenAI 平台迁移应用,Llama API 完全兼容 OpenAI SDK。

Meta 还联手 Cerebras 和 Groq,进一步优化 Llama API 的性能。Cerebras 宣称,其 Llama 4 Cerebras 模型的 tokens 生成速度高达 2600 tokens / s,比 NVIDIA 等传统 GPU 解决方案快 18 倍。

根据 Artificial Analysis 基准测试数据,这一速度远超 ChatGPT 的 130 tokens / s 和 DeepSeek 的 25 tokens / s。

Cerebras CEO 兼联合创始人 Andrew Feldman 表示:“我们很自豪能让 Llama API 成为全球最快的推理 API。开发者在构建实时应用时需要极致速度,Cerebras 的加入让 AI 系统性能达到 GPU 云无法企及的高度。”

此外,Groq 提供的 Llama 4 Scout 模型速度为 460 tokens / s,虽不及 Cerebras,但仍比其他 GPU 方案快 4 倍。在Groq上,Llama 4 Scout 每百万 tokens 输入费用为 0.11 美元,每百万 tokens 输出费用为 0.34 美元;Llama 4 Maverick 每百万 tokens 输入费用为 0.50 美元,每百万 tokens 输出费用为 0.77 美元。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
阿根廷PK西班牙,谁能夺冠?范志毅给出了1答案

阿根廷PK西班牙,谁能夺冠?范志毅给出了1答案

体育哲人
2026-07-17 20:50:11
重磅!6年4.1亿!爱德华兹,NBA第一人...

重磅!6年4.1亿!爱德华兹,NBA第一人...

左右为篮
2026-07-17 12:48:23
官方:世界杯决赛中场休息不超17分钟

官方:世界杯决赛中场休息不超17分钟

懂球帝
2026-07-18 00:16:11
曝徐克没跟助理生子!向太透露施南生离世细节,插管一周已无意识

曝徐克没跟助理生子!向太透露施南生离世细节,插管一周已无意识

不似少年游
2026-07-17 16:39:18
图片报:基米希出局后滞留酒店一天半,他反复向工作人员道歉

图片报:基米希出局后滞留酒店一天半,他反复向工作人员道歉

懂球帝
2026-07-17 15:37:23
有人预言:从下半年开始,社区食堂、预制菜,很可能迎来行业新一轮洗牌

有人预言:从下半年开始,社区食堂、预制菜,很可能迎来行业新一轮洗牌

小谈食刻美食
2026-07-16 08:19:00
中国劝俄方“免开尊口”,除非按中方的条件来,否则没什么好谈的

中国劝俄方“免开尊口”,除非按中方的条件来,否则没什么好谈的

飘逸的云朵
2026-07-16 15:06:51
陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

陪玩陪睡只是皮毛!继手伸进裤子后,又一女星自曝,50多都不放过

不似少年游
2026-06-22 19:32:51
阿隆索铁腕重塑切尔西:上任一周清洗五将,加纳乔领衔离队榜

阿隆索铁腕重塑切尔西:上任一周清洗五将,加纳乔领衔离队榜

星耀国际足坛
2026-07-17 18:57:59
前青训负责人:小法和皮克曾多次劝梅西代表西班牙,但他从未动摇过

前青训负责人:小法和皮克曾多次劝梅西代表西班牙,但他从未动摇过

懂球帝
2026-07-17 16:42:24
太恐怖了!香格里拉格一景区爆发泥石流,数十台车深陷淤泥,有网友指事发地俗称“地狱谷”

太恐怖了!香格里拉格一景区爆发泥石流,数十台车深陷淤泥,有网友指事发地俗称“地狱谷”

火山詩话
2026-07-17 15:45:27
穆里尼奥遗憾落空!皇马传奇拒绝回归!不愿重返伯纳乌

穆里尼奥遗憾落空!皇马传奇拒绝回归!不愿重返伯纳乌

澜归序
2026-07-17 02:45:30
心理学家说:“凡是用沉默惩罚他人、用冷暴力逃避问题的人,不管他多么委屈、多么有理,本质都是情绪操控的高手,消耗关系的慢性毒药。”

心理学家说:“凡是用沉默惩罚他人、用冷暴力逃避问题的人,不管他多么委屈、多么有理,本质都是情绪操控的高手,消耗关系的慢性毒药。”

心理观察局
2026-06-29 06:41:30
唯一候选人伯纳姆担任英国工党党首,将直接获任英国首相,来自普通家庭,深耕地方多年;8年前曾来华访问,对此念念不忘

唯一候选人伯纳姆担任英国工党党首,将直接获任英国首相,来自普通家庭,深耕地方多年;8年前曾来华访问,对此念念不忘

极目新闻
2026-07-17 19:27:05
湛江妈祖事件曝光!网传今年换人请9次圣杯,全是反对,资本慌了

湛江妈祖事件曝光!网传今年换人请9次圣杯,全是反对,资本慌了

火山詩话
2026-02-20 08:52:55
2月20日俄乌最新:无比强硬的停火条件

2月20日俄乌最新:无比强硬的停火条件

西楼饮月
2026-02-20 20:02:11
口红效应一旦出现,就说明大家没钱了。

口红效应一旦出现,就说明大家没钱了。

老陆不老
2026-07-17 08:28:47
福建市公安局分局刑事侦查大队四级警长黄泽凡接受监察调查

福建市公安局分局刑事侦查大队四级警长黄泽凡接受监察调查

大闽门户
2026-07-17 21:12:35
我在美国经商,娶了一对亲姐妹,为了公平起见一人一晚,3个月后两个妻子居然同时怀孕,去医院检查时医生一句话让我瘫倒在地上

我在美国经商,娶了一对亲姐妹,为了公平起见一人一晚,3个月后两个妻子居然同时怀孕,去医院检查时医生一句话让我瘫倒在地上

起飞做故事
2026-07-16 18:22:18
探花布泽尔24+7+3无缘今日最佳!对不起,你碰到暴走的火箭次轮状元了

探花布泽尔24+7+3无缘今日最佳!对不起,你碰到暴走的火箭次轮状元了

世界体育圈
2026-07-17 12:14:51
2026-07-18 01:03:00
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
355528文章数 607371关注度
往期回顾 全部

科技要闻

WAIC2026看什么?这份"不迷路"攻略请收好

头条要闻

美媒问特朗普言论会否影响中国领导人访美 外交部回应

头条要闻

美媒问特朗普言论会否影响中国领导人访美 外交部回应

体育要闻

30亿欧对决,世界杯季军战毫无意义?

娱乐要闻

曲婉婷自爆患癌!全网喊“苍天绕过谁”

财经要闻

梁文锋不需要天才

汽车要闻

把中国超跑卖到英国,比亚迪正在被世界看见

态度原创

亲子
数码
房产
健康
游戏

亲子要闻

从全球好物到暖心公益,贝亲2026CBME诠释新时代育儿温度

数码要闻

亮源新创姜旭:世界模型的最终目标是让机器人理解并参与物理世界

房产要闻

炸场!十五五定调黄埔!科学城真正的红利赢家,藏不住了

刮痧也会刮出脑梗?讲个真实案例

悬赏上万美元破解PS5!硬刚索尼封闭生态

无障碍浏览 进入关怀版