网易首页 > 网易号 > 正文 申请入驻

1.7B小模型跑在手机上,API账单归零

0
分享至

一个1.7B的模型,跑在你自己的机器上。不是云端,不是按token计费,是下载一次、之后一直跑的那种。


StewMind 1.7B在尼日利亚做出来,定位很明确:给做智能体的人用。发布方的说法是,现在大多数AI像自动售货机——按token付费,租别人的大脑,API账单一旦飙升,产品就活不下去。他们要做的是反面:一个可以下载、永久运行的小而锐利的智能体大脑。

它列出的能力清单是这样的:

  • 智能体路由:理解意图,挑出正确的技能
  • 工具调用:结构化函数调用,不靠感觉
  • ReAct推理:思考、行动、观察、循环
  • 记忆操作:为需要记忆的智能体系统而建
  • 英语加尼日利亚皮钦语:它听得懂当地人实际怎么说话
  • GGUF就绪:笔记本、迷你主机、甚至手机都能跑
  • 0美元API账单:没有订阅,没有速率限制,没有意外发票

跑起来只要十行代码。加载分词器和模型,套上对话模板,生成,解码输出。没有GPU也不是问题——仓库里直接放着Q4_K_M的GGUF文件,用llama.cpp、LM Studio或Ollama都能跑。发布方形容它吃内存的样子,像派对上的jollof米饭消失得那么快。

为什么1.7B是特性而不是缺陷

做智能体开发的同行有个共同难题:大模型很聪明,但慢、贵,一次工具调用就啃掉一点利润。专门为智能体工作微调过的小模型,在三件事上做得更好。

路由是毫秒级的——不用为了决定调哪个工具先等上900毫秒的往返。它保持专注——训练数据是智能体工作流,不是世间万物。它跑在用户所在的地方——离线、在设备上,私有数据不离开这台机器。

发布方给出的判断是:智能体的未来不是数据中心里一个巨大的大脑,而是成千上万个小大脑,住在你的应用、脚本和硬件里。

为尼日利亚而建,也为世界而建

StewMind出自S.T.E.W项目。这个项目在做尼日利亚的AI基础设施:能听懂伊博语、约鲁巴语、豪萨语和皮钦语的语音模型,在本地思考的智能体模型,以及在网络昂贵且不稳定的地方也能用的工具。

对新兴市场里做智能体的人来说,痛点很具体:延迟毁掉体验,API成本毁掉创业公司。本地优先的AI在这里不是妥协,是策略。

模型和GGUF文件都放在Hugging Face上,可以改、可以微调、可以塞进产品里。发布方还顺带提了另一个项目Stew Yanga——尼日利亚语音转文字,号称真正听得懂尼日利亚口音。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
普京这招太高明!对全体乌克兰人说出最软的话,泽连斯基算盘落空

普京这招太高明!对全体乌克兰人说出最软的话,泽连斯基算盘落空

揽星戈
2026-10-26 01:19:58
长鑫拒绝苹果

长鑫拒绝苹果

观察者网
2026-10-26 14:36:10
英国公布的圆明园被毁前照片,美如仙境,引发世界关注

英国公布的圆明园被毁前照片,美如仙境,引发世界关注

贱议你读史
2026-05-23 15:23:34
快讯!相声演员杨议摊上事了!

快讯!相声演员杨议摊上事了!

故事终将光明磊落
2026-10-26 10:59:46
曼联球迷力挺卡里克!揪出三大罪人,高歌抗议格雷泽家族+拉爵

曼联球迷力挺卡里克!揪出三大罪人,高歌抗议格雷泽家族+拉爵

奥拜尔
2026-10-26 00:06:37
场均29+3,球队战绩联盟垫底!拿4896万年薪却成NBA“数据刷子”

场均29+3,球队战绩联盟垫底!拿4896万年薪却成NBA“数据刷子”

后仰跳投绝杀
2026-10-26 20:24:50
A股:不必等待了,尾盘释放两个信息,明天,周二或将这样走!

A股:不必等待了,尾盘释放两个信息,明天,周二或将这样走!

明心
2026-10-26 16:23:16
苏州这一夜,妖艳四射的杨紫和热巴,输给了“全裹”出镜的刘亦菲

苏州这一夜,妖艳四射的杨紫和热巴,输给了“全裹”出镜的刘亦菲

翰飞观事
2026-10-26 19:38:03
作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

作家陈岚点评大S之死,如果汪小菲带大S去旅游,估计连灰都没有了

小人物看尽人间百态
2025-02-09 09:12:11
卢拉的胜利,对巴西和拉美意味着什么?

卢拉的胜利,对巴西和拉美意味着什么?

上观新闻
2026-10-26 11:03:00
中央定调!延迟退休落地,1966~1968年出生的,退休反而更受益

中央定调!延迟退休落地,1966~1968年出生的,退休反而更受益

社保小达人
2026-10-25 11:47:18
中央政法委下死命令!严厉查处这些行为,一起都不放过!

中央政法委下死命令!严厉查处这些行为,一起都不放过!

细说职场
2026-10-24 12:56:53
拉基蒂奇:亚马尔遭包夹,穆里尼奥战术几乎完美

拉基蒂奇:亚马尔遭包夹,穆里尼奥战术几乎完美

懂球帝
2026-10-26 08:48:17
敏感节点、敏感地点,美军恶意挑衅中国,扬言开战首日投全部兵力

敏感节点、敏感地点,美军恶意挑衅中国,扬言开战首日投全部兵力

国际法大视野
2026-10-25 19:46:28
陕西、内蒙古、广西、重庆、四川、贵州、云南、西藏、甘肃、青海、宁夏、新疆联合发布“双十一”提示

陕西、内蒙古、广西、重庆、四川、贵州、云南、西藏、甘肃、青海、宁夏、新疆联合发布“双十一”提示

延安发布
2026-10-26 06:43:39
美国版我不是药神:母亲癌症脑转移命悬一线,儿子飞上海带回26盒中国药!19个月后,她怎么样了?

美国版我不是药神:母亲癌症脑转移命悬一线,儿子飞上海带回26盒中国药!19个月后,她怎么样了?

徐德文科学频道
2026-10-25 10:45:14
官媒痛批“衣不遮体”!演唱会成遮羞布,这几位女星“越露越多”

官媒痛批“衣不遮体”!演唱会成遮羞布,这几位女星“越露越多”

孤芳自赏的小李
2026-08-29 19:52:12
打嗨了!45+28+31!库里门徒真有能耐

打嗨了!45+28+31!库里门徒真有能耐

篮球实战宝典
2026-10-26 18:49:14
为艺术献身的日本女星—高桥惠子,代表作《情书》

为艺术献身的日本女星—高桥惠子,代表作《情书》

小武侃风云
2026-10-26 20:00:49
问题干部被留置的第一天,你根本想象不到!

问题干部被留置的第一天,你根本想象不到!

细说职场
2026-10-26 11:12:19
2026-10-26 20:36:49
薛定谔的BUG
薛定谔的BUG
有态度网友ytd
194文章数 108关注度
往期回顾 全部

科技要闻

K3.1 Pro发布才两天,Kimi道歉补额度!

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

头条要闻

外媒称"中印边境发生冲突印度指责中国军队" 中方回应

体育要闻

13年后重回诺坎普,穆里尼奥又滑跪了

娱乐要闻

胡歌杨幂刘诗诗袁弘陈龙结伴去埃及

财经要闻

卢锋:全球失衡背后 大国博弈与多边治理

汽车要闻

云辇-M上车 第二代海豹07让驾驶者也能爱上的家用车

态度原创

艺术
家居
房产
健康
教育

艺术要闻

中国最高(在建)摩天轮与全球最深潜水馆综合体,面纱揭开!

家居要闻

2026建博会(广州) 公装联探展交流活动

房产要闻

海甸岛26万人,还缺一个年轻人“待得住”的地方

痘痘能根治吗?皮肤科医生说实话

教育要闻

看着很难 找对方法秒解

无障碍浏览 进入关怀版