灵聚灵脑迅灵大模型：训练“小模型”响应“小而美”

　　灵聚大模型Agent框架。

　　灵聚灵脑大模型简介页面。

张胜

广州灵聚信息科技有限公司创始人兼CEO　　

张胜是广州灵聚信息科技有限公司（下称“灵聚信息”）创始人兼CEO，是南都·琶洲π少有的二次采访的嘉宾。两年前，AI大模型的发展正暗流涌动，DeepSeek还没面世，张胜在采访中介绍了他公司的NLP（注：自然语言处理）及ChatBot（注：聊天机器人）相关技术，它们被应用于服务机器人、玩具、智能家居、数字人等多个领域，不乏一些知名的头部公司的产品。

两年后，市面上的AI大模型产品越来越多，既有通用的文生文、文生视频大模型，也有解决细分行业具体场景的垂类大模型。灵聚信息也推出了自己的AI大模型——灵聚灵脑迅灵大模型，在“小而美”的路线上，追求灵活部署和快捷响应。　　

AI创业

掌握应用场景才是硬道理

张胜是我国IT行业的早期从业者。1997年，他利用周末时间到学校“回炉”，深入学习计算机专业并在IT媒体里打拼。1999年，他在京创办《电脑自做》（PCDIY）杂志；此后进入赛迪集团，先后任中国电脑教育报社副社长兼高级副总编、赛迪网副总裁、《软件世界》杂志社常务副社长兼总编。

张胜的AI创业可追溯至2013年，他与另一合伙人在广州创办灵聚信息。在那个大家还在谈论移动互联网的年代，灵聚信息开始了AI创业，明确了“为未来的服务机器人做大脑”的目标，并决定在NLP技术领域展开攻关。

张胜将公司研发出来的核心自研产品命名为“灵聚人工大脑”。它是可以将语义分析、知识图谱和认知计算等技术有机结合在一起的算法和数据集群，具备生成式和检索式知识表达能力，主要实现自然语言交互、自学习和认知等能力。

“灵聚人工大脑”广泛应用于大中型企业的企业对话式AI应用、个人对话式AI应用、数字人、服务机器人及AIoT产品。他的公司作为NLP技术服务提供方，已为华为、阿里巴巴、软银机器人、小米、思必驰、喜马拉雅、优必选等大中型企业的智能家居、智能音箱、手机、电视、平板、手表、车机、玩具、服务机器人等产品提供智能交互服务。

在这样的技术下，人类与机器的对话不需要靠屏幕输入，只需要通过自然语言对话便可完成。这项技术现在已十分普及，而张胜是这个行业的先行者。

技术的发展是迅速的，尤其是最近两年，张胜对此深有感触。DeepSeek的开源，影响了AI大模型行业的发展模式。经过近两年的观察，张胜意识到，应用场景才是硬道理。对于创业公司而言，应拥有自己独特擅长的技术，结合开源技术，将技术体系落地到具体的应用场景中，这是张胜综合当下AI环境的思考。此外，头部公司对于优质数据的“无上限预算”投入，也让创业公司不得不聚焦细分行业的具体场景。　　

“小模型”

对特定场景需求提供服务

灵聚信息也开发了自己的大模型——灵聚灵脑迅灵大模型。结合灵聚信息在NLP技术、语音交互技术等长达十多年的积淀，该公司形成了对特定场景需求的服务供给能力。

两年前的采访中，张胜就提到了“小模型”的概念。“当前，一些通用大模型的动辄上千亿的参数，但实际上具体的应用场景不需要这么多，只需要十几亿参数即可。”针对具体场景需要，灵聚信息只训练“小模型”。“小模型”不仅实现了成本可控，也可以灵活部署和快捷响应，实现了“小而美”的效果。据介绍，灵聚人工大脑经典技术基于开放域NLU、三元组知识图谱和精准生成式模型，可以做到精准生成式交互。

基于这一能力，灵聚信息对外推出了灵聚Agent（注：智能体）和大模型部署的个性化定制服务，实现了内容的精准生成、高并发下的快速反应、高稳定性等多个效果。

“文生视频大模型可以发散多解，但文生文大模型对于准确度的要求特别高。”张胜介绍，尤其是在无屏幕或不依赖屏幕进行语音交互的过程中，用户只会给你七秒钟的时间，如果没有听到精准答案，便会放弃。“灵聚对话式AI是将灵聚灵脑迅灵大模型和灵聚经典Chatbot技术融合的产物，在发挥生成式大模型优势的基础上，通过经典技术生成100%精确的结果的方式，弥补了大模型在特定场景下生成内容可靠性不足的缺陷。”

高并发下的快速响应也是灵聚信息所追求和实现的效果。张胜介绍，从商业角度看，企业不可能用无限堆算力的方式来提升高并发时的响应速度。“用有限的算力实现大体量用户高并发请求时的快速响应，是近年来灵聚信息将经典NLP技术能力赋能大模型的一项成果。”

从通用到垂类，AI大模型将AI技术能力赋能给千行百业。至于接下来的计划，张胜告诉记者，灵聚信息将从行业再深入至具体场景，从B端业务向C端业务延伸，找到AI运用的更多可能性。　π

谈琶洲

琶洲有好的产业支持性政策，也云集了越来越多的头部公司，对于AI创业公司而言有良好的发展、生存环境，支持企业踏实沉稳做事。

采写：南都·琶洲π记者 代国辉

图片：受访者提供