网易首页 > 网易号 > 正文 申请入驻

要“用得起”也要“用得好”,科大讯飞为行业重算AI“成本账” | 电厂

0
分享至


作者 商迪安

10月22日,2026科大讯飞全球1024开发者节正式举行,同期科博展在北京、合肥双城启幕,汇聚全球15国351城52120支团队的AI开发者大赛也吹响号角。

这已是科大讯飞举办的第10届“1024开发者节”,会上最受关注的,无疑是首个基于全国产算力底座完成训练和推理的全栈自主可控大模型再度升级——端云一体模型讯飞星火X2.6正式亮相。

谈及功能亮点,科大讯飞董事长刘庆峰在主题演讲中简明概括:“本次星火X2.6不仅在云端大模型能力上对标国际先进水平,还进一步在端侧模型上做了重大创新,首次基于全国产算力实现了代码和智能体的能力突破,支持百万Token上下文。”


科大讯飞董事长刘庆峰

随着大模型落地深化,代码和智能体调用等长程任务成为了验证模型能力的“试金石”场景。而这引出了对模型上下文容量、算力成本、安全性、推理速度等各项指标的挑战。

星火X2.6正是科大讯飞为直面上述挑战而打磨的最新技术成果。如刘庆峰所言:“未来的大模型安全性和极致性价比,一定要通过端云一体化来实现。”

这不只是对“云端还是本地”的简单选择,而是涉及模型能力、硬件资源与任务需求的协同:哪些任务可以在端侧完成?哪些需要调用云端能力?如何在两者之间分配计算?这都需要从算法优化到推理调度进行系统适配。

这也意味着在跑通国产算力底座上的训推策略后,讯飞星火正在走向全栈自主可控大模型的下一个阶段:为国产AI真正更有效地创造社会价值、服务民生刚需而探路。

在与主会场同时开放的展区内,也能看到讯飞星火在教育、医疗、办公、法律、汽车座舱等诸多行业的典型落地案例。在填补国产AI的产业拼图之后,讯飞的下一个命题是助力千行百业的智能化升级。


重算AI落地的成本账,端云一体成为新解法

大模型狂飙突进三年多,AI落地的一笔成本账,重新摆到了行业的桌面上。

Gartner在今年8月份发布的报告中预测:尽管模型API定价在不断下降,多步骤执行等日益复杂的工作流程却不仅吞噬了这部分成本,还在推动总人工智能成本不断攀升。Gartner因此得出结论,推理成本管理已成为管理者的首要任务之一。

在成本之外,随着AI落地深化,传统的云端模型策略还面临其他多重挑战。如国盛证券研报分析道,在模型大规模应用的前提下,大模型市场会面临成本、时延、隐私合规与服务稳定性四类约束,因此难以依靠继续增加云端算力供给化解。


复杂流程带来的成本增长幅度超过Token成本的下降幅度,图/Gartner

换言之,AI落地需要重算的,不只是调用价格,还有任务与算力的匹配关系:哪些任务适合就近处理?哪些需要更强的云端能力?哪些可以由两者协作完成?

端云协同由此被视为新的解法。德勤在《技术趋势2025》中指出,将云端与设备端AI工作负载相结合的混合计算,有望带来更快的响应、更低的成本与更强的隐私控制。通过按需分配任务,企业有机会在模型能力与实际使用成本之间,找到更适合规模化应用的平衡。

这正是讯飞星火X2.6试图回应的时代命题。星火X2.6模型家族包含云端大模型星火X2.6 293B-A30B、端侧模型星火X2.6-4B及星火X2.6-1.7B。

作为“超大杯”旗舰模型,星火X2.6 293B-A30B 在国际公开测试集 Benchmarks中,多项技术指标对标业界一流水平;而端侧模型星火X2.6-4B在通过端云一体训练后,能力上达到同尺寸模型最优。

据刘庆峰分享,通过端云一体训练后,目前星火X2.64B是业界首个1M上下文端侧模型,其综合性能已经“越级”超过了市面多个9B模型。而4B的参数大小是在各构型机器人、汽车智驾平台、AI PC等领域上直接部署使用的“门槛尺寸”,落地前景广阔。

在面对具体任务时,星火大模型端云一体协同架构的原则是由端侧本地模型来进行一次模型路由,决定简单任务端侧处理、复杂任务按需上云。

在发布会现场,讯飞也展示了端云一体协同架构在具体生产场景中的应用情况。

以端侧任务为例,面向机器人公司负责人发出的复盘经营信息和决策建议指令,本地部署的Spark X2.6 4B 模型会自主从大量邮件中筛选各大区周报及附件,汇总营收和业务进展,关联分析销售、生产与供应链信息,识别跨区客户跟进冲突、海外新商机及供应链缺口等信息,最终生成可视化经营复盘报告。

该任务全过程在本地执行、无需上云。而端侧模型在帮助管理者在业务数据不出端的前提下,还能快速掌握经营重点、明确协调与决策事项,降低云端Token消耗。


此外,对于经过路由判断需要上云的任务,讯飞特别强调会引入数据脱敏与用户确认机制,本地原始文件不上传,并支持用户自定义脱敏策略。

比如在采购合同审核的任务中,端侧Agent会自主判断云端协作需求,获得用户授权后,在本地识别并脱敏公司名称、人员、银行账户等敏感信息,经用户检查、修改并确认后,才将脱敏合同加密上传云端进行一系列处理后回传端侧、再还原敏感信息。

端云模型的智能分工既能让敏感数据不出域、高频任务响应更快,也能通过云端兜底保障复杂任务的完成质量,在成本、安全与效率之间建立新的平衡。

经过协同交替训练,端云路由的准确率可大幅提升,能够更准确地判断任务应由端侧、云端还是端云协同完成,进一步提升端云协同效能。

刘庆峰会上还分享到,目前,星火X2.6-4B已将端侧模型能完成的智能体类型任务比例由业界主流的12.8%大幅提升到41.9%,目标未来达到 60%以上。


在全国产算力平台创新端云架构,科大讯飞如何做到?

“云端定上限、行业定深度、端侧定入口”的分层协同正成为产业大势所趋。但想要实现端云智能分工,还要解决云端模型与端侧模型的训练、压缩和部署,任务路由如何兼顾效果与开销,以及软硬件之间的适配问题。

这其中每一步,都关系到这套架构能否在实际应用中兑现优势。

对于基于海外成熟算力生态开展研发的模型厂商而言,相对完善的软件栈、训练框架、通信库与工具链,为上述探索提供了基础。

但对于坚持全栈自主可控路线的科大讯飞而言,如何在国产算力平台上“跑通”整套智能分工架构,并没有前路可循。

相比海外算力平台,想要在纯国产算力平台上攻克智能体等长程任务应用壁垒,讯飞所面临的挑战不仅具体,而且进一步放大:

长上下文任务要求更高的显存容量和训练效率;工具调用和代码任务要求更强的模型结构和数据能力;智能体强化学习会带来更高的采样和解码成本;多轮复杂任务要求兼顾推理稳定性和成本可控;整套解决方案,需要模型结构、训练算法、算子优化、分布式策略、集群调度和故障恢复的共同配合。

每一项,都不是简单“堆卡”或是单纯推理适配国产芯片可以解决的,而是需要切实解决算法与工程问题。最终,科大讯飞团队以一系列技术突破,攻克相关难题。


具体来说,在训练方面,科大讯飞团队率先突破了国产芯片长程任务训练的效率瓶颈,研发出适配国产平台的长程任务动态并行训练技术,解决了因国产芯片的显存带宽限制而导致的混合训练效率低下问题。

通过这项创新,模型可以将长程和短程任务自动分解,再通过现有国产算力的多种联合调度机制,把超长上下文的训练效率提升4倍。


在国产算力集群的长程任务推理效率方面,讯飞星火X2.6团队也持续推进攻关,推出两项关键创新。

首先,在基于国产异构算力的分布式推理技术方面,星火X2.6突破了国产芯片受显存和带宽限制,解决了长程任务放不下、算不快的问题;此外,团队还研发出基于首个全国产设备的四层KVCache技术,解决国产芯片显存与内存限制导致的KVCache命中率不高的问题。这让很多推理任务无需重新计算,就能直接得到结果。

据刘庆峰公布,经过优化,讯飞星火X2.6的国产芯片推理效率提升了4.5倍,KVCache命中率从63%提高到95.7%。

而这还是在极高的训练效率基础上实现的,刘庆峰在发布会上分享称:“过往训一个大版本模型,别人需要训3个月的情况下,我们往往需要训一年,而现在我们把训练速度提升了4 倍。星火X2.6就是我们经过2-3次训练,把这些基本问题解决好的。”

“说到底,只有真正的在国产算力上训练出自己的模型,才是真的自主可控。”他感叹道。

如其所言,科大讯飞较早转向了对全国产算力平台的投入,并长期坚持训推一体,多代星火大模型均已在国产化平台上完成了模型能力生长、持续训练优化、推理部署、行业应用落地的完整闭环,并在这个过程中沉淀出了可复制的工程经验、训练方法和落地路径。

从这一角度看,讯飞星火X2.6的端云协同架构,是这条源头AI技术创新之路上的又一个重要节点。

值得一提的是,目前除华为昇腾平台外,科大讯飞已成功适配并优化寒武纪MLU590、中科海光BW1000等国产AI芯片上的大模型训练效率,不断推动国产大模型训练能力从“单点突破”走向“多平台生态协同”,也有助于实现更灵活的算力分布策略。

当前国产算力大模型训练已经从“能训”走向“训好”,后续仍需科大讯飞这样的代表性企业持续投入,推进工程优化和生态完善。


用全国产解决方案,串联千行百业的真需求

经过端云一体训练,星火X2.6家族已展现出广泛且亮眼的应用潜力。而要让这套能力真正转化为企业可感知的生产力,最新发布的讯飞星帆 WinWork 数字员工平台,正是关键的落地产品。

在发布会现场,科大讯飞重点演示了WinWork如何直击企业“降本增效”的刚需痛点。

面对企业内部繁杂的流程审批、跨部门数据拉通、合同审核等高频重复性工作,传统人力往往陷入“堆时间”的低效循环。而WinWork通过构筑“数字员工”并深度嵌入工作流程,能够自主理解业务意图、拆解任务步骤并调用相应工具完成闭环。

更关键的是,借助端云一体星火大模型,WinWork能在保障数据安全的前提下,节约高达44%的Token消耗——这意味着企业不仅获得了“数字员工”的7×24小时执行力,更在规模化应用中大幅压降了AI落地成本,真正回应了企业要“用得起、用得好”的刚需。

在发布会演示案例中,WinWork 展示了其处理复杂办公场景的能力:面对一份需要跨部门协同的采购合同,数字员工可自动识别敏感信息并在本地完成脱敏,经用户确认后调用云端大模型进行条款审查与风险提示,全程数据不出域、流程可审计。并且WinWork支持全栈国产化、私有化部署,可审计、可追溯,让企业在享受智能化的同时,进一步打消合规顾虑。

WinWork的亮眼表现,只是星火X2.6家族广泛落地潜力的一个缩影。无论是面对如 AI 算法开发、需求文档设计、Bug 排查与定位等编程任务,还是文档处理办公、任务规划等生产力场景,星火X2.6 都表现出色;在数理答题、指令遵循等通用任务上也能保持优异效果。

进一步,依托训练、推理、压缩、部署和调度的全自主技术链,这套端云协同能力还可进一步落地到讯飞晓法、AI学习机、智慧座舱、办公Agent等产品中,使交互更加实时、自然,也让产品在弱网甚至离线环境下保持一定的智能能力。

以法律场景为例,讯飞晓法结合星火法律大模型和最新的“端云一体”讯飞星火X2.6,可以打造出覆盖案情梳理、证据审查、诉讼策略、庭审策略和合同法务等法律工作全流程的“超级法律助手”,能让整体办案效率提升45%以上。


讯飞星帆WinWork数字员工平台助力组织提效

凡此种种,讯飞星火正嵌入更多行业,产生实际价值。

如果效率优势与成本控制能力是大模型性能的试金石,代表的是模型当下能否产生经济价值、跑通商业模式。那么产业与生态价值,则指向一个更长远的问题:在成熟的海外技术路线之外,国产AI能否探索出一条可持续演进、可供更多参与者共同发展的路径?

从这一角度看,科大讯飞在国产算力上的实践,价值也不止于提升讯飞星火自身的能力。模型训练与应用落地中的真实需求,能够为芯片、框架和工具链的优化提供反馈;在适配过程中积累的工程经验,也有机会向更多国产算力平台迁移,减少后续开发者的探索成本。

当这些经验逐步转化为可复用的技术能力,国产大模型与基础软硬件之间,便有望形成相互促进的循环。

目前,科大讯飞全球活跃用户规模已达24.2亿;讯飞星火系列大模型正在辅助设计个性化癌症疫苗、赋能数学研究突破等领域发挥价值;截至10月20日,星火X2.5端侧模型及社区衍生版本下载量已达到256万。

随着讯飞星火X2.6系列模型最新亮相,更多开发者也有机会参与其中。目前,星火X2.6系列模型已经上线,用户登录讯飞开放平台,即可免费领取10亿Token体验包,降低模型试用与应用开发的起步成本。


自主可控、行业落地、软硬一体、多语种能力,构成了科大讯飞探索大模型发展的差异化路径。此次星火大模型端云一体协同架构的推出,让这条路径进一步延伸,在国产算力底座上,让模型能力与不同场景的成本、效率和安全要求相匹配,为规模化应用创造条件。

(除特殊标注外,文中图源科大讯飞)


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
61岁中国男子在芭提雅坠亡,房内发现手写信:愿将全部财产留给泰籍婚外伴侣

61岁中国男子在芭提雅坠亡,房内发现手写信:愿将全部财产留给泰籍婚外伴侣

大风新闻
2026-10-24 21:44:06
美媒评NBA历史十大落选秀,里夫斯仅第9,范乔丹第2,第1无悬念

美媒评NBA历史十大落选秀,里夫斯仅第9,范乔丹第2,第1无悬念

弄月公子
2026-10-25 09:18:12
CBA最新消息!上海男篮确定更换大外援,广东宏远主帅遭遇质疑

CBA最新消息!上海男篮确定更换大外援,广东宏远主帅遭遇质疑

体坛瞎白话
2026-10-25 07:47:09
当地通报“水柜漂浮多只猴子”:系猴群下山饮水时不慎溺亡,已全部打捞并作无害化处理;水柜用于农业灌溉,已完成首轮消杀

当地通报“水柜漂浮多只猴子”:系猴群下山饮水时不慎溺亡,已全部打捞并作无害化处理;水柜用于农业灌溉,已完成首轮消杀

极目新闻
2026-10-25 09:30:35
挺好的训练装,硬是穿出不协调的感觉!

挺好的训练装,硬是穿出不协调的感觉!

穿的像个人样
2026-10-15 07:52:49
若恢复这一规定,中国结婚率或将大幅上涨,离婚率也会随之下降

若恢复这一规定,中国结婚率或将大幅上涨,离婚率也会随之下降

掉了颗大白兔糖
2026-10-24 06:47:36
最高法表态“终身追责”后,山东张志超冤案又上了热搜:当年把冤案做成铁案的人,后来到底怎样了?

最高法表态“终身追责”后,山东张志超冤案又上了热搜:当年把冤案做成铁案的人,后来到底怎样了?

迷世书童
2026-10-24 17:07:33
王沪宁陪同朝鲜最高领导人金正恩访问丹东

王沪宁陪同朝鲜最高领导人金正恩访问丹东

新华社
2026-10-24 19:02:01
河内一名经理飞西贡约会女大学生,10·20刚见完面,第二天双双感染HIV

河内一名经理飞西贡约会女大学生,10·20刚见完面,第二天双双感染HIV

越南语学习平台
2026-10-24 17:09:45
23岁女生拒绝学长的表白3年后,照片被配上捏造信息发到境外色情软件,涉事男子被刑拘,多名女性中招

23岁女生拒绝学长的表白3年后,照片被配上捏造信息发到境外色情软件,涉事男子被刑拘,多名女性中招

都市快报橙柿互动
2026-10-25 00:16:01
油价最新消息:涨幅已翻倍,油价上调再度扩大,预计92号汽油涨0.23元/升,95号汽油涨0.25元/升,0号柴油涨0.24元/升

油价最新消息:涨幅已翻倍,油价上调再度扩大,预计92号汽油涨0.23元/升,95号汽油涨0.25元/升,0号柴油涨0.24元/升

吉刻新闻
2026-10-24 20:25:21
突发伤病!状元高位踝关节扭伤!休战4至6周!

突发伤病!状元高位踝关节扭伤!休战4至6周!

柚子说球
2026-10-25 09:48:19
一个料酒,是厨房最大的谎言!所有的肉,都有一个天生克星!

一个料酒,是厨房最大的谎言!所有的肉,都有一个天生克星!

华庭讲美食
2026-10-24 12:08:22
特朗普亲俄之举确实令人匪夷所思

特朗普亲俄之举确实令人匪夷所思

望岳
2026-10-24 21:03:04
一场2-1,让意甲榜首易主,大黑马登顶:7胜1平,超越国际米兰

一场2-1,让意甲榜首易主,大黑马登顶:7胜1平,超越国际米兰

足球狗说
2026-10-25 05:58:37
王嘉尔代言海报惹争议!网友:这是谁啊?还以为是迪丽热巴...

王嘉尔代言海报惹争议!网友:这是谁啊?还以为是迪丽热巴...

品牌新
2026-10-24 17:54:32
阿门登全美热搜第一!火箭官方晒封盖文班世纪之画 队记高呼太爱了

阿门登全美热搜第一!火箭官方晒封盖文班世纪之画 队记高呼太爱了

颜小白的篮球梦
2026-10-24 13:48:37
扑杀200万只野猫,启用“自动杀猫机”,对家猫“宵禁”……澳大利亚为什么不肯放过野生“哈基米”?

扑杀200万只野猫,启用“自动杀猫机”,对家猫“宵禁”……澳大利亚为什么不肯放过野生“哈基米”?

新民周刊
2026-10-24 18:37:22
二十届中央第八轮巡视对象公布

二十届中央第八轮巡视对象公布

上观新闻
2026-10-24 19:21:34
泽连斯基:不会为结束冲突放弃更多领土

泽连斯基:不会为结束冲突放弃更多领土

环球网资讯
2026-10-25 06:50:08
2026-10-25 09:59:00
电厂 incentive-icons
电厂
探索科技公司的未知,为你充电
2370文章数 1062关注度
往期回顾 全部

科技要闻

一会儿繁荣一会儿末日,美国政界受够AI巨头了

头条要闻

女子花200万买保险结果业务员给她老公打电话:恶心

头条要闻

女子花200万买保险结果业务员给她老公打电话:恶心

体育要闻

从乐透秀到总冠军再到没工作 一共要几年?

娱乐要闻

翁虹19岁女儿三次拒爱,在美国上学却“不随便”

财经要闻

手机洗牌:华为苹果守住了 小米OV换打法

汽车要闻

大众安徽与众09正式上市 双十一权益价16.99万起

态度原创

旅游
数码
教育
时尚
公开课

旅游要闻

漫步黄河畔 乐享夕阳红

数码要闻

2.56万元!铁三角发布木制封闭式耳机:用300年树龄的桧木纯手工打造

教育要闻

美国竞赛题,抛硬币20次,正面10次的概率是多少

秋天裤子不用买贵的,准备好蓝色牛仔裤,减龄清爽又不挑人

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版