一个1.7B的模型,跑在你自己的机器上。不是云端,不是按token计费,是下载一次、之后一直跑的那种。
![]()
StewMind 1.7B在尼日利亚做出来,定位很明确:给做智能体的人用。发布方的说法是,现在大多数AI像自动售货机——按token付费,租别人的大脑,API账单一旦飙升,产品就活不下去。他们要做的是反面:一个可以下载、永久运行的小而锐利的智能体大脑。
它列出的能力清单是这样的:
- 智能体路由:理解意图,挑出正确的技能
- 工具调用:结构化函数调用,不靠感觉
- ReAct推理:思考、行动、观察、循环
- 记忆操作:为需要记忆的智能体系统而建
- 英语加尼日利亚皮钦语:它听得懂当地人实际怎么说话
- GGUF就绪:笔记本、迷你主机、甚至手机都能跑
- 0美元API账单:没有订阅,没有速率限制,没有意外发票
跑起来只要十行代码。加载分词器和模型,套上对话模板,生成,解码输出。没有GPU也不是问题——仓库里直接放着Q4_K_M的GGUF文件,用llama.cpp、LM Studio或Ollama都能跑。发布方形容它吃内存的样子,像派对上的jollof米饭消失得那么快。
为什么1.7B是特性而不是缺陷
做智能体开发的同行有个共同难题:大模型很聪明,但慢、贵,一次工具调用就啃掉一点利润。专门为智能体工作微调过的小模型,在三件事上做得更好。
路由是毫秒级的——不用为了决定调哪个工具先等上900毫秒的往返。它保持专注——训练数据是智能体工作流,不是世间万物。它跑在用户所在的地方——离线、在设备上,私有数据不离开这台机器。
发布方给出的判断是:智能体的未来不是数据中心里一个巨大的大脑,而是成千上万个小大脑,住在你的应用、脚本和硬件里。
为尼日利亚而建,也为世界而建
StewMind出自S.T.E.W项目。这个项目在做尼日利亚的AI基础设施:能听懂伊博语、约鲁巴语、豪萨语和皮钦语的语音模型,在本地思考的智能体模型,以及在网络昂贵且不稳定的地方也能用的工具。
对新兴市场里做智能体的人来说,痛点很具体:延迟毁掉体验,API成本毁掉创业公司。本地优先的AI在这里不是妥协,是策略。
模型和GGUF文件都放在Hugging Face上,可以改、可以微调、可以塞进产品里。发布方还顺带提了另一个项目Stew Yanga——尼日利亚语音转文字,号称真正听得懂尼日利亚口音。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.