过去想让 Agent 调用工具帮忙干活,多少都得是上百亿参数的大模型才行。而就在前几天,这条规矩被打破了。科大讯飞全资子公司词元星火一口气开源了两款端侧模型——Spark-X2.5-1.7B 和 Spark-X2.5-4B,把 Agent 能力硬生生塞进了小模型的身躯里。
这事儿的反常识程度,得先摆个参照系。以往 Agent 要理解复杂指令、调用外部工具、执行多步任务,背后都是大参数模型在撑腰。现在,一个 4B 参数的模型就能干同样的活,而且还能跑在本地笔记本上。用 llama.cpp 这类框架就能轻松部署,不用联网,不用烧 API 费用。
![]()
100 万 Token 上下文,小模型的"大胃口"
这两款模型原生支持 100 万 Token 的上下文窗口。这意味着什么?你可以一次性把整个大型项目的代码库或者几百页文档丢给它,关键信息不会在长文本中被"遗忘"。对于做代码审查、项目分析的人来说,这个能力直接拉高了小模型的实用天花板。
在多项评测中,Spark-X2.5 系列表现出超越同尺寸模型的性能,尤其在 Agent 任务上属于断层式领先。翻译、代码理解、架构图生成这些场景,它都能覆盖。翻译能力尤其值得一提,小模型通常在这块容易翻车,但它在评测里的表现相当能打。
本地部署,数据敏感行业的福音
本地运行带来的直接好处是数据隐私。所有计算都在自己的设备上完成,数据不出门。这对医疗、法务这类对数据安全极度敏感的行业来说,价值是实打实的。以前不敢用云端大模型处理的数据,现在可以在本地用小模型跑 Agent 流程。
从产品逻辑上看,词元星火这次开源的动作,等于把 Agent 的准入门槛往下拽了一大截。开发者不需要再为调用大模型 API 的延迟和成本发愁,也不用担心数据外泄。一个 4B 模型装进笔记本,就能拥有过去需要云端大模型才能提供的 Agent 能力。
端侧 AI 的竞争,已经从"能不能跑"进化到"跑得多聪明"了。这次开源的两款模型,算是给这个赛道立了一个新参照物。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.