网易首页 > 网易号 > 正文 申请入驻

断网也能跑满血大模型?本地AI界最火的“基石神器”终于发布1.0正式版

0
分享至

来源:市场资讯

(来源:IT之家)

IT之家 11 月 14 日消息,开发者 Georgi Gerganov(X 账号为 @ggerganov)昨日(11 月 13 日)在 X 平台发布推文,宣布开源 AI 推理项目 llama.cpp 与底层机器学习引擎 ggml 的库版本迈入 1.0.0。

IT之家查询公开资料,Gerganov 是开源项目 llama.cpp 的创建者,也是 ggml、whisper.cpp 等本地 AI 基础软件的重要开发者。他在个人 X 简介中将自己标注为 Hugging Face 工程师,GitHub 资料所在地为保加利亚索非亚。


llama.cpp 是一个主要用 C/C++ 编写的开源 AI 推理项目,核心作用是让大语言模型在个人电脑、服务器等不同硬件上运行。它既可以用于本地部署,也可以用于云端服务,目标是降低部署复杂度,并充分利用设备的计算能力。

本次更新最大的亮点就是明确接口兼容性规则:

项目库定位llama.cpplibllamaC/C++ 大模型推理库ggmllibggml底层机器学习张量库

两者今后都会通过主版本号升级,明确标记 API 或 ABI 不兼容的变化,让依赖这些库的应用能够识别升级边界。对于开发者而言,可以从版本号上,更容易判断某次升级是否可能要求自己的应用同步修改。官方给出的版本规则是:

版本位什么情况下更新MAJOR,例如 1.x.x → 2.0.0./include 中公共 C API 出现破坏性变更;公告同时明确,API / ABI 不兼容会通过主版本升级体现MINOR,例如 1.0.x → 1.1.0向后兼容的功能、后端更新、模型支持或 API 新增PATCH,例如 1.0.0 → 1.0.1不改变 API 的 bug 修复

在工程质量方面,官方公告称为了支撑持续加快的开发节奏,团队强调了三项投入:

在后端与模型支持方面,ggml 通过专用后端支持不同硬件;每个后端都可以编译为动态库,并按需在运行时加载。

llama.cpp 已支持超过 150 种模型架构变体及主流推测解码方法。团队还将继续加强自动化测试基础设施,并借助英伟达、AMD、高通、Arm、IBM 和英特尔提供的硬件支持,扩大跨平台测试覆盖。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
乌军炸塌克里米亚大桥钢拱,专家估计:修复可能要两年

乌军炸塌克里米亚大桥钢拱,专家估计:修复可能要两年

桂系007
2026-11-20 23:59:14
重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

重磅预警!高盛“恐慌指数”逼近最大值:美股下周恐还有一波大规模抛售

财联社
2026-11-21 13:56:13
三十年前,瑞典的人均GDP高达3.2万美元,甚至比美国还高出18%,街头安全到可以夜不闭户;如今到处都是难民,本地人都不敢出门

三十年前,瑞典的人均GDP高达3.2万美元,甚至比美国还高出18%,街头安全到可以夜不闭户;如今到处都是难民,本地人都不敢出门

回京历史梦
2026-11-21 09:31:06
2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

2025辽宁死亡第一,这个不敢造谣,任何人上网都能查

北京作家编剧肥猪满圈
2026-11-18 17:23:20
沃什摊牌了!黄金跌成这样,说穿了就是美联储,根本没打算停手

沃什摊牌了!黄金跌成这样,说穿了就是美联储,根本没打算停手

最美的巧合
2026-11-21 15:49:43
泽连斯基:若冲突不尽快结束,乌克兰将需要西方伙伴提供更多巨额资金

泽连斯基:若冲突不尽快结束,乌克兰将需要西方伙伴提供更多巨额资金

阿尔卑斯瞭望
2026-11-21 17:55:36
92公斤到71公斤!这个父亲的减肥理由,让无数男人沉默了

92公斤到71公斤!这个父亲的减肥理由,让无数男人沉默了

健身厨屋
2026-11-18 22:44:13
曾经不可一世的日本鬼子,终于在中国的天空,知道了什么叫恐惧

曾经不可一世的日本鬼子,终于在中国的天空,知道了什么叫恐惧

这才是战争
2026-11-20 11:05:28
开始动真格!追溯30年倒查来了,这4类人要当心!

开始动真格!追溯30年倒查来了,这4类人要当心!

职场资深秘书
2026-11-21 14:20:04
APEC 封神!别家啃冷三明治,深圳直接上现炒热菜,老外记者看呆,深圳媒体中心这顿饭,把老外 CPU 干烧了

APEC 封神!别家啃冷三明治,深圳直接上现炒热菜,老外记者看呆,深圳媒体中心这顿饭,把老外 CPU 干烧了

魔都姐姐杂谈
2026-11-19 10:30:45
别买!基本假的!又一产品大翻车,成本只有 10 元,很多人长期上当

别买!基本假的!又一产品大翻车,成本只有 10 元,很多人长期上当

云居历史
2026-11-20 00:35:53
一个家庭最大的难,是夫妻过了60岁,还处于以下这四种状态

一个家庭最大的难,是夫妻过了60岁,还处于以下这四种状态

荔子言
2026-11-21 20:38:14
央视发文,高调官宣罗晋喜讯,和唐嫣争夺抚养权传闻早已真相大白

央视发文,高调官宣罗晋喜讯,和唐嫣争夺抚养权传闻早已真相大白

广西辉哥
2026-11-20 15:24:10
研究发现:猕猴桃可以在24小时内溶解50%的血栓?真的吗?

研究发现:猕猴桃可以在24小时内溶解50%的血栓?真的吗?

侯医生谈健康
2026-11-21 03:05:03
陈小春开丰田北上广东,20多年的老车,外观却让人过目不忘

陈小春开丰田北上广东,20多年的老车,外观却让人过目不忘

总李谈车
2026-11-16 19:54:04
特朗普表态:NVIDIA Blackwell芯片可对华销售 但有个条件

特朗普表态:NVIDIA Blackwell芯片可对华销售 但有个条件

墨染时光
2026-11-19 18:53:56
朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

朋友面试谈薪报价2w,HR非得压到1.9,还反问他:你就差这1000块钱?后来背调时问了他前同事十几个问题,对方最后直接挂了

纯洁的微笑
2026-11-18 21:51:39
就在今晚!斯诺克英锦赛资格赛今日打响!赵心童128.76万守榜首,丁俊晖第23出战,吴宜泽差距越来越小

就在今晚!斯诺克英锦赛资格赛今日打响!赵心童128.76万守榜首,丁俊晖第23出战,吴宜泽差距越来越小

体育闲话说
2026-11-21 18:11:32
华为的恩情,10辈子都还不完?华为粉的一句吹捧,评论区立刻清醒

华为的恩情,10辈子都还不完?华为粉的一句吹捧,评论区立刻清醒

谭谈社会
2026-06-08 16:32:22
为什么现在部分股民对中国股市有这么大的怨气?

为什么现在部分股民对中国股市有这么大的怨气?

星语者056
2026-11-21 10:21:43
2026-11-21 23:44:49
新浪财经 incentive-icons
新浪财经
新浪财经是一家创建于1999年8月的财经平台
5579296文章数 10051关注度
往期回顾 全部

科技要闻

Anthropic收涨17.1%,市值一度破2万亿美元

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

头条要闻

菲总统马科斯APEC欢迎曲为《孩子》引发热议 本人回应

体育要闻

约基奇vs申京:最强的策应巨人?

娱乐要闻

官媒发文 官宣赵丽颖新身份,进步很大

财经要闻

最大回撤超37%,黄金崩盘了吗?

汽车要闻

35万级MPV的满配答案 享界V8正式上市售31.98万起

态度原创

本地
教育
家居
公开课
军事航空

本地新闻

43年起落记忆倒计时,去厦门高崎领绝版登机牌!

教育要闻

曾经“感动中国”的庞众望完成清华大学博士论文答辩,本人发声:将继续潜心钻研,在科研探索的道路上不断前行

家居要闻

2026建博会(广州) 公装联探展交流活动

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

俄乌炸桥冲突升级 相关谈判设想被放弃

无障碍浏览 进入关怀版