网易首页 > 网易号 > 正文 申请入驻

Soul App 开源实时数字人生成模型 SoulX-FlashHead,轻量 化模型支持“消费级”实时高保真直播

0
分享至

在实时数字人赛道,开发者们曾长期面临一个困扰:追求高画质就需要具备昂贵的 H800 集群,追求低成本就得忍受“面瘫”和画面崩坏。

为解决这一问题,继开源 14B 的实时数字人生成模型SoulX-FlashTalk 之后,近日,Soul App AI团队(Soul AI Lab)推出了SoulX-FlashHead。这款1.3B参数的轻量化模型,能够在单张消费级显卡( RTX 4090 )上跑出96FPS的工业级速度,同时实现高质量画质,为行业提供新的实时数字人方案。



SoulX-FlashHead核心亮点: 不仅是实时,更是“算力自由”

在消费级显卡上,SoulX-FlashHead 的表现:

  • Lite版本(高速率):单卡4090推理帧率可达96FPS,仅需6.4G显存,最高支持3路并发,让实时数字人模型真正走到了消费级终端上。

  • Pro版本(高画质):单卡5090推理帧率16.8FPS,双卡可实时(25fps+),FID(视觉质量指标)和Lip-sync(唇形一致指标)在benchmark上达到了SOTA,甚至超过了更大参数量的模型,解决了“小模型没好画质”的行业痛点。

原理介绍

如何让 1.3B 模型“以小博大”?SoulX-FlashHead创新引入了:

训练“先知”:双向蒸馏机制 (Oracle-Guided Distillation)

长视频生成的“身份漂移”一直是行业痛点。SoulX-FlashHead引入了“上帝视角”教师模型,利用 Ground Truth 作为先知锚点进行强约束。

效果:像给模型装了校准器,无论视频多长,人物特征始终稳定。


8秒记忆:时序音频上下文缓存 (TACC)

流式生成中,音频切片太短会导致口型抖动。

创新:强制模型缓存8秒历史音频特征,补偿上下文缺失。

体验:解决“嘴瓢”和“对不上号”问题,开播即进入理想状态。

高质量数据底座:自研 VividHead 数据集

从 10,000+ 小时素材中精炼出782 小时高质量音画数据:

严苛筛选:经过切分、DWpose 关键点、唇形一致分数过滤等多个处理步骤,为模型提供了最纯净的“养料”。


客观表现

在 HDTF 与 VFHQ 两大权威数据集的实测中,SoulX-FlashHead 展现了出色的表现:

画质新标杆:在高清视频(HDTF)评测中,Pro版本以8.31 (FID)103.14 (FVD)的成绩刷新纪录,视觉细腻度超过 一些“大参数”模型。

口型精准捕捉:面对野外复杂场景(VFHQ),凭借独创的“时序音频上下文缓存”策略,其Sync-C 得分高达 5.60,大幅领先此前相关工作,解决对不上口型的尴尬。

速度“快”:仅凭 1.3B 的轻量化体量,Lite 版本在单张RTX 4090上跑出了96 FPS的吞吐量。这不仅是实时基准(25 FPS)的近4倍,推理效率更是行业同类主流模型的100倍以上。



应用场景: “人人可用”的数字人技术

今年1月,Soul AI Lab开源了实时数字人生成模型SoulX-FlashTalk,能够实现0.87s亚秒级超低延时、32FPS高帧率,并支持超长视频稳定生成。

对比SoulX-FlashTalk,SoulX-FlashHead的价值在于,将高保真技术进一步从“算力机房”解放到了“个人工作站”,让更广泛的场景应用成为可能:

  • 7x24h矩阵直播:个人主播用一台游戏 PC,即可搭建高保真电商直播间。

  • 游戏NPC引擎:1.3B 体积极易集成,NPC 毫秒级响应,且不抢占核心渲染资源。

  • AI一对一外教:支持 15 种语言,实时将音频转化为生动的教学画面。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
王博被驱逐!三大核心缺席广厦惜败山西 布朗空砍41分

王博被驱逐!三大核心缺席广厦惜败山西 布朗空砍41分

醉卧浮生
2026-04-15 21:51:38
日币跌得我都不敢相信:3.8元人民币可以换100日元!

日币跌得我都不敢相信:3.8元人民币可以换100日元!

新浪财经
2026-04-15 13:58:02
杨某媛称已找到工作,结果立马被网友举报了……

杨某媛称已找到工作,结果立马被网友举报了……

麦杰逊
2026-04-15 11:53:46
关于文章被处理的通知

关于文章被处理的通知

言立方
2026-04-15 18:22:17
不想访华了?特朗普召回美驻华大使,贝森特扬言:中国“不可靠”

不想访华了?特朗普召回美驻华大使,贝森特扬言:中国“不可靠”

影孖看世界
2026-04-15 22:29:46
卡拉格:想想利物浦为维尔茨付的转会费,如今基本算是打水漂

卡拉格:想想利物浦为维尔茨付的转会费,如今基本算是打水漂

懂球帝
2026-04-15 22:20:10
被打到求救才想起祖国?真主党日暮途穷连喊三件事!

被打到求救才想起祖国?真主党日暮途穷连喊三件事!

环球格局观
2026-04-15 19:15:59
美军二战以来首次发动潜艇袭击,事发斯里兰卡以南海域,87名伊朗海军身亡,32名幸存者已启程回国

美军二战以来首次发动潜艇袭击,事发斯里兰卡以南海域,87名伊朗海军身亡,32名幸存者已启程回国

极目新闻
2026-04-15 09:15:05
伊朗总统质问美国和以色列:为什么攻击伊朗,袭击平民和儿童,破坏学校和医院?其称没有任何力量能迫使伊朗人民屈服

伊朗总统质问美国和以色列:为什么攻击伊朗,袭击平民和儿童,破坏学校和医院?其称没有任何力量能迫使伊朗人民屈服

极目新闻
2026-04-15 17:45:12
特朗普“反向封锁”霍尔木兹海峡,伊朗8000万人恐难撑过一个月

特朗普“反向封锁”霍尔木兹海峡,伊朗8000万人恐难撑过一个月

民间胡扯老哥
2026-04-14 06:00:51
05后小妹「崩老头」正在悄悄流行,半黄全灰纯靠演

05后小妹「崩老头」正在悄悄流行,半黄全灰纯靠演

媒体人溪婉
2026-04-15 12:20:58
河南13岁被锁喉男孩赴京治疗后已脱离生命危险,拉绳老人已被采取刑事强制措施

河南13岁被锁喉男孩赴京治疗后已脱离生命危险,拉绳老人已被采取刑事强制措施

极目新闻
2026-04-15 11:11:27
A股迎重磅新政:三十年来首次延长交易时长,牛市要来了

A股迎重磅新政:三十年来首次延长交易时长,牛市要来了

人生录
2026-04-15 16:18:11
A股唯一一家,5大外资重仓存储芯片,市值低至20亿,最长横盘2年

A股唯一一家,5大外资重仓存储芯片,市值低至20亿,最长横盘2年

长风价值掘金
2026-04-15 17:23:33
演员文章开店卖陕西菜:32元一碗面,凌晨五点就有人排队,黄牛代排炒至500元

演员文章开店卖陕西菜:32元一碗面,凌晨五点就有人排队,黄牛代排炒至500元

蓝鲸新闻
2026-04-14 18:48:26
许家印,KTV豪情终成妄念

许家印,KTV豪情终成妄念

哲空空
2026-04-15 11:40:51
河南一豫剧团下乡演出台下观众痛哭流涕,演员回应:现场观众超千人,一半人落了泪

河南一豫剧团下乡演出台下观众痛哭流涕,演员回应:现场观众超千人,一半人落了泪

极目新闻
2026-04-15 19:44:40
广东“莫氏鸡煲大公主”爆火前后反差大,晚上干到凌晨2点才收工,发文吐槽:这个鸡你们是非吃不可吗

广东“莫氏鸡煲大公主”爆火前后反差大,晚上干到凌晨2点才收工,发文吐槽:这个鸡你们是非吃不可吗

大象新闻
2026-04-15 12:57:04
知情人士:张涵泊改名李沂泽系家庭变故导致,出生证明是08年

知情人士:张涵泊改名李沂泽系家庭变故导致,出生证明是08年

懂球帝
2026-04-15 09:14:38
采访了100个娶了小三的男人,他们几乎都说了同一句话,让人恍然

采访了100个娶了小三的男人,他们几乎都说了同一句话,让人恍然

千秋文化
2026-04-15 20:18:32
2026-04-16 03:03:00
金融界 incentive-icons
金融界
投资者信赖的财经金融门户网站
9194706文章数 546215关注度
往期回顾 全部

科技要闻

ChatGPT十亿用户又怎样?Anthropic直接贴脸

头条要闻

法国全票通过 “将不义之财归还中国”

头条要闻

法国全票通过 “将不义之财归还中国”

体育要闻

三球准绝杀戴大金链:轰30+10自我救赎

娱乐要闻

谢娜现身环球影城,牵手女儿温馨有爱

财经要闻

业绩失速的Lululemon:"健康"人设崩塌?

汽车要闻

空间丝毫不用妥协 小鹏GX首发评测

态度原创

本地
家居
数码
教育
游戏

本地新闻

12吨巧克力有难,全网化身超级侦探添乱

家居要闻

简而不减 暖居之道

数码要闻

明基新款显示器首发12499元:4K专业级色彩校准 根据环境光自动调整

教育要闻

黄冈小升初招生题,求面积,方法思路太绝了

《GTA6》抢劫玩法泄露引热议!NPC与警察全面升级

无障碍浏览 进入关怀版