网易首页 > 网易号 > 正文 申请入驻

Soul App 开源实时数字人生成模型 SoulX-FlashHead,轻量 化模型支持“消费级”实时高保真直播

0
分享至

在实时数字人赛道,开发者们曾长期面临一个困扰:追求高画质就需要具备昂贵的 H800 集群,追求低成本就得忍受“面瘫”和画面崩坏。

为解决这一问题,继开源 14B 的实时数字人生成模型SoulX-FlashTalk 之后,近日,Soul App AI团队(Soul AI Lab)推出了SoulX-FlashHead。这款1.3B参数的轻量化模型,能够在单张消费级显卡( RTX 4090 )上跑出96FPS的工业级速度,同时实现高质量画质,为行业提供新的实时数字人方案。



SoulX-FlashHead核心亮点: 不仅是实时,更是“算力自由”

在消费级显卡上,SoulX-FlashHead 的表现:

  • Lite版本(高速率):单卡4090推理帧率可达96FPS,仅需6.4G显存,最高支持3路并发,让实时数字人模型真正走到了消费级终端上。

  • Pro版本(高画质):单卡5090推理帧率16.8FPS,双卡可实时(25fps+),FID(视觉质量指标)和Lip-sync(唇形一致指标)在benchmark上达到了SOTA,甚至超过了更大参数量的模型,解决了“小模型没好画质”的行业痛点。

原理介绍

如何让 1.3B 模型“以小博大”?SoulX-FlashHead创新引入了:

训练“先知”:双向蒸馏机制 (Oracle-Guided Distillation)

长视频生成的“身份漂移”一直是行业痛点。SoulX-FlashHead引入了“上帝视角”教师模型,利用 Ground Truth 作为先知锚点进行强约束。

效果:像给模型装了校准器,无论视频多长,人物特征始终稳定。


8秒记忆:时序音频上下文缓存 (TACC)

流式生成中,音频切片太短会导致口型抖动。

创新:强制模型缓存8秒历史音频特征,补偿上下文缺失。

体验:解决“嘴瓢”和“对不上号”问题,开播即进入理想状态。

高质量数据底座:自研 VividHead 数据集

从 10,000+ 小时素材中精炼出782 小时高质量音画数据:

严苛筛选:经过切分、DWpose 关键点、唇形一致分数过滤等多个处理步骤,为模型提供了最纯净的“养料”。


客观表现

在 HDTF 与 VFHQ 两大权威数据集的实测中,SoulX-FlashHead 展现了出色的表现:

画质新标杆:在高清视频(HDTF)评测中,Pro版本以8.31 (FID)103.14 (FVD)的成绩刷新纪录,视觉细腻度超过 一些“大参数”模型。

口型精准捕捉:面对野外复杂场景(VFHQ),凭借独创的“时序音频上下文缓存”策略,其Sync-C 得分高达 5.60,大幅领先此前相关工作,解决对不上口型的尴尬。

速度“快”:仅凭 1.3B 的轻量化体量,Lite 版本在单张RTX 4090上跑出了96 FPS的吞吐量。这不仅是实时基准(25 FPS)的近4倍,推理效率更是行业同类主流模型的100倍以上。



应用场景: “人人可用”的数字人技术

今年1月,Soul AI Lab开源了实时数字人生成模型SoulX-FlashTalk,能够实现0.87s亚秒级超低延时、32FPS高帧率,并支持超长视频稳定生成。

对比SoulX-FlashTalk,SoulX-FlashHead的价值在于,将高保真技术进一步从“算力机房”解放到了“个人工作站”,让更广泛的场景应用成为可能:

  • 7x24h矩阵直播:个人主播用一台游戏 PC,即可搭建高保真电商直播间。

  • 游戏NPC引擎:1.3B 体积极易集成,NPC 毫秒级响应,且不抢占核心渲染资源。

  • AI一对一外教:支持 15 种语言,实时将音频转化为生动的教学画面。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
开国大将之子,携香港女星叛逃31年,76岁在异乡离世

开国大将之子,携香港女星叛逃31年,76岁在异乡离世

高山非凡创作
2024-05-16 23:31:04
舒淇晒全家福!亲弟比她显老 豪宅奢华 冯德伦和岳父母互动亲密

舒淇晒全家福!亲弟比她显老 豪宅奢华 冯德伦和岳父母互动亲密

另子维爱读史
2026-02-24 22:24:25
小杨阿姨在老家休假,直播揭露马筱梅生产内幕,忧心失业!

小杨阿姨在老家休假,直播揭露马筱梅生产内幕,忧心失业!

古希腊掌管月桂的神
2026-02-24 20:03:51
还得是穆里尼奥!利用欧足联规则漏洞,避开皇马战前发布会

还得是穆里尼奥!利用欧足联规则漏洞,避开皇马战前发布会

夜白侃球
2026-02-24 15:19:55
巴拿马颁令,正式撤销长和两港口经营权,授权海事局接管设施

巴拿马颁令,正式撤销长和两港口经营权,授权海事局接管设施

星岛记事
2026-02-24 11:05:33
碧桂园7000亿项目烂尾

碧桂园7000亿项目烂尾

地产微资讯
2026-02-23 21:46:01
不是迷信!明日大年初九,白天5禁忌,晚上3注意,别忘了告诉家人

不是迷信!明日大年初九,白天5禁忌,晚上3注意,别忘了告诉家人

时尚的弄潮
2026-02-24 11:48:34
国安部披露:境外反华势力以快速“入籍”为饵,诱骗我国公民参加反华活动

国安部披露:境外反华势力以快速“入籍”为饵,诱骗我国公民参加反华活动

澎湃新闻
2026-02-24 07:56:11
丰盈:一种拒绝被削足适履的完整

丰盈:一种拒绝被削足适履的完整

疾跑的小蜗牛
2026-02-24 22:19:30
为什么同一碗面,国外吃的是肉,我们吃的是调味料

为什么同一碗面,国外吃的是肉,我们吃的是调味料

富贵说
2026-02-22 20:52:00
炸锅!国美才女沦陷海外,私密视频被挂成人网,留学生集体背锅?

炸锅!国美才女沦陷海外,私密视频被挂成人网,留学生集体背锅?

戗词夺理
2026-02-23 15:32:24
县城,已经毫无隐私

县城,已经毫无隐私

视觉志
2026-02-24 18:59:01
山东小伙娶只有8岁智商的新娘,笑的合不拢嘴,网友:赚大了!

山东小伙娶只有8岁智商的新娘,笑的合不拢嘴,网友:赚大了!

观察鉴娱
2026-02-01 15:02:49
球迷在皇马门口举牌抗议!赫伊森看到后开车加速就跑:差点撞到人

球迷在皇马门口举牌抗议!赫伊森看到后开车加速就跑:差点撞到人

念洲
2026-02-24 13:36:37
0-4惨败石洵瑶!大藤沙月被打崩,对我们连败还敢嚣张?

0-4惨败石洵瑶!大藤沙月被打崩,对我们连败还敢嚣张?

卿子书
2026-02-24 09:17:46
华为2025年销售收入超8800亿元;亚马逊成为全球收入最高公司;IBM股价创下2000年以来最大单日跌幅

华为2025年销售收入超8800亿元;亚马逊成为全球收入最高公司;IBM股价创下2000年以来最大单日跌幅

全球TMT
2026-02-24 12:48:20
巴黎2.5亿报价亚马尔被拒,后梅西时代巴萨新王,拉波尔塔选对了

巴黎2.5亿报价亚马尔被拒,后梅西时代巴萨新王,拉波尔塔选对了

夏侯看英超
2026-02-25 00:29:07
WTT大满贯!女单爆大冷,奥运亚军出局,蒯曼零封、石洵瑶压制

WTT大满贯!女单爆大冷,奥运亚军出局,蒯曼零封、石洵瑶压制

深蓝独奏
2026-02-24 15:19:44
王楚钦婉拒球迷签名:不好意思,白纸我签不了

王楚钦婉拒球迷签名:不好意思,白纸我签不了

大象新闻
2026-02-24 20:13:10
同时有金矿、银矿、铜矿的中国企业,只有6家!到底有多厉害?

同时有金矿、银矿、铜矿的中国企业,只有6家!到底有多厉害?

花小猫的美食日常
2026-02-23 22:19:06
2026-02-25 02:00:49
金融界 incentive-icons
金融界
投资者信赖的财经金融门户网站
9194706文章数 545954关注度
往期回顾 全部

科技要闻

宇树科技发布四足机器人Unitree As2

头条要闻

武契奇遭"灭门式"暗杀阴谋:他们计划虐杀我的孩子

头条要闻

武契奇遭"灭门式"暗杀阴谋:他们计划虐杀我的孩子

体育要闻

苏翊鸣总结米兰征程:我仍是那个热爱单板滑雪的少年

娱乐要闻

汪小菲官宣三胎出生:承诺会照顾好3个孩子

财经要闻

县城消费「限时繁荣」了十天

汽车要闻

入门即满配 威兰达AIR版上市 13.78万元起

态度原创

手机
旅游
本地
教育
公开课

手机要闻

苹果发布iOS 26.4 Beta 2系统更新,液态玻璃设计有新变化!

旅游要闻

上海欢乐谷举办“欢乐中国年”主题活动,整合多元体验打造新春出游目的地

本地新闻

春花齐放2026:《骏马奔腾迎新岁》

教育要闻

马马马上上岸!!!TTS《大吉大利复试手册》+复试班:纸质笔记与1v1模拟面试堂堂上线!!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版