琶洲“模术”秀专访：大模型不必“大而全”，也可“小而美”

百花齐放般的大模型深刻展示着人工智能技术的魅力。南都·琶洲π特别策划琶洲“模术”秀系列人物专访，专访位于广州海珠琶洲的国内首个人工智能大模型应用示范区的大模型专家，揭秘大模型背后的技术原理，走进人工智能技术的最新应用场景。

张胜是广州灵聚信息科技有限公司（下称“灵聚信息”）创始人兼CEO，是南都·琶洲π少有的二次采访的嘉宾。两年前，AI大模型的发展正暗流涌动，DeepSeek还没面世，张胜在采访中介绍了他公司的NLP（注：自然语言处理）及ChatBot（注：聊天机器人）相关技术，它们被应用于服务机器人、玩具、智能家居、数字人等多个领域，不乏一些知名的头部公司的产品。

两年后，市面上的AI大模型产品越来越多，既有通用的文生文、文生视频大模型，也有解决细分行业具体场景的垂类大模型。灵聚信息也推出了自己的AI大模型——灵聚灵脑迅灵大模型，在“小而美”的路线上，追求灵活部署和快捷响应。

广州灵聚信息科技有限公司创始人兼CEO 张胜

AI技术发展迅速

掌握应用场景才是硬道理

张胜是我国IT行业的早期从业者。1997年，他利用周末时间到学校“回炉”，深入学习计算机专业并在IT媒体里打拼。1999年，他在京创办《电脑自做》(PCDIY)杂志；此后进入赛迪集团，先后任中国电脑教育报社副社长兼高级副总编、赛迪网副总裁、《软件世界》杂志社常务副社长兼总编。

张胜的AI创业可追溯至2013年，他与另一合伙人在广州创办灵聚信息。在那个大家还在谈论移动互联网的年代，灵聚信息开始了AI创业，明确了“为未来的服务机器人做大脑”的目标，并决定在NLP技术领域展开攻关。

张胜将公司研发出来的核心自研产品命名为“灵聚人工大脑”。它是可以将语义分析、知识图谱和认知计算等技术有机结合在一起的算法和数据集群，具备生成式和检索式知识表达能力，主要实现自然语言交互、自学习和认知等能力。

“灵聚人工大脑”广泛应用于大中型企业的企业对话式AI应用、个人对话式AI应用、数字人、服务机器人及AIoT产品。他的公司作为NLP技术服务提供方，已为华为、阿里巴巴、软银机器人、小米、思必驰、喜马拉雅、优必选等大中型企业的智能家居、智能音箱、手机、电视、平板、手表、车机、玩具、服务机器人等产品提供智能交互服务。

在这样的技术下，人类与机器的对话不需要靠屏幕输入，只需要通过自然语言对话便可完成。这项技术现在已十分普及，而张胜是这个行业的先行者。

技术的发展是迅速的，尤其是最近两年，张胜对此深有感触。DeepSeek的开源，影响了AI大模型行业的发展模式。一些从事通用文生文大模型的企业突然走到十字路口，是继续投入自家的通用文生文大模型，还是另辟蹊径？一些拥有独立数据和掌握应用场景的企业，开始借力使力，轻巧地开启了AI创业。

经过近两年的观察，张胜意识到，应用场景才是硬道理。对于创业公司而言，应拥有自己独特擅长的技术，结合开源技术，将技术体系落地到具体的应用场景中，这是张胜综合当下AI环境的思考。此外，头部公司对于优质数据的“无上限预算”投入，也让创业公司不得不聚焦细分行业的具体场景。

高并发快速精准生成

聚焦具体场景实际需求

灵聚信息也开发了自己的大模型——灵聚灵脑迅灵大模型。结合灵聚信息在NLP技术、语音交互技术等长达十多年的积淀，该公司形成了对特定场景需求的服务供给能力。

两年前的采访中，张胜就提到了“小模型”的概念。“当前，一些通用大模型的动辄上千亿的参数，但实际上具体的应用场景不需要这么多，只需要十几亿参数即可。”针对具体场景需要，灵聚信息只训练“小模型”。

“小模型”不仅实现了成本可控，也可以灵活部署和快捷响应，实现了“小而美”的效果。据介绍，灵聚人工大脑经典技术基于开放域NLU、三元组知识图谱和精准生成式模型，可以做到精准生成式交互。

灵聚大模型Agent框架。

基于这一能力，灵聚信息对外推出了灵聚Agent（注：智能体）和大模型部署的个性化定制服务，实现了内容的精准生成、高并发下的快速反应、高稳定性等多个效果。

“文生视频大模型可以发散多解，但文生文大模型对于准确度的要求特别高。”张胜介绍，尤其是在无屏幕或不依赖屏幕进行语音交互的过程中，用户只会给你七秒钟的时间，如果没有听到精准答案，便会放弃。“灵聚灵脑迅灵大模型基于20亿组三元组知识图谱，可生成100%精确的结果，弥补了大模型在特定场景下生成内容可靠性不足的缺陷。”

灵聚灵脑大模型简介页面。

高并发下的快速响应也是灵聚信息所追求和实现的效果。张胜介绍，从商业角度看，企业不可能用无限堆算力的方式来提升高并发时的响应速度。“用有限的算力实现大体量用户高并发请求时的快速响应，是近年来灵聚信息将经典NLP技术能力赋能大模型的一项成果。”

一方面提升经典技术能力，一方面结合新兴的大模型技术，灵聚信息将自身在NLP和语音交互技术方面所形成的能力发挥在具体场景中，实现了Agent的快速响应和工作流的强鲁棒性（注：形容功能稳定性）。这些蕴含新技术的产品，已经在多种问答式场景中得到运用。

从通用到垂类，AI大模型将AI技术能力赋能给千行百业。至于接下来的计划，张胜告诉记者，灵聚信息将从行业再深入至具体场景，从B端业务向C端业务延伸，找到AI运用的更多可能性。

谈琶洲

琶洲有好的产业支持性政策，也云集了越来越多的头部公司，对于AI创业公司而言有良好的发展、生存环境，支持企业踏实沉稳做事。

南都广州新闻部出品

采写：南都·琶洲π记者 代国辉

图片：受访者供图