网易首页 > 网易科技 > 网易科技 > 正文

Soul App开源实时数字人模型SoulX-FlashTalk:0.87秒低延时、32fps支持超长视频稳定生成

0
分享至

2月3日消息,近日,Soul App AI团队(Soul AI Lab)宣布开源实时数字人生成模型 SoulX-FlashTalk。据介绍,该模型参数规模为14B,可实现0.87s 亚秒级首帧延时、32fps 高帧率推理吞吐,并支持 超长视频稳定生成,面向“实时在线交互”场景落地。



模型表现

官方披露,SoulX-FlashTalk重点解决实时视频交互中的两大难点——低延迟与长时稳定性。在推理侧,团队通过全栈加速引擎将首帧输出延迟压至亚秒级;在长视频生成中,则引入 自纠正双向蒸馏技术 与 多步回溯自纠正机制,模拟误差传播并进行实时修正,降低人物身份漂移与画质衰减风险。与此同时,模型 保留双向注意力机制(All-to-All),使每一帧生成可同时参考过去与隐含未来上下文,从而在超长直播中维持口型、面部细节与背景的一致性,减少画面“崩坏”。

除面部口型对齐外,SoulX-FlashTalk也进一步扩展到 全身动作交互。官方称,该模型支持音频驱动的全身动作生成,并强化手部细节表现,减少手部畸形与运动模糊,同时在动作幅度提升的情况下仍保持较高身份一致性(Subject-C达99.22)。

在训练策略上,团队采用两阶段方案,包括 延迟感知时空适配(Latency-Aware Spatiotemporal Adaptation) 与 自纠正双向蒸馏(Self-Correcting Bidirectional Distillation)。推理侧则结合混合序列并行(Hybrid Sequence Parallelism)、FlashAttention3、3D VAE并行化及torch.compile整链优化等手段,以提升实时推理效率。


训练流程


SoulX-FlashTalk推理架构

Soul AI Lab表示,SoulX-FlashTalk可应用于7×24小时AI直播、短视频制作、AI教育、互动NPC、AI客服等场景,尤其针对数字人直播长时间运行后常见的嘴型漂移、画质模糊等问题提供可落地的解决方案。此前,Soul曾开源语音合成模型 SoulX-Podcast,并在开源社区获得较高关注。

目前,项目页面、技术报告、源码及HuggingFace模型均已上线。(袁宁)

本文来自网易科技报道,更多资讯和深度内容,关注我们。

相关推荐
热点推荐
众星悼念张雪峰,朱伟长文看哭网友!猝逝前直播画面竟成最后影像

众星悼念张雪峰,朱伟长文看哭网友!猝逝前直播画面竟成最后影像

露珠聊影视
2026-03-25 13:32:19
马斯克放话:比MPV更酷的新车要来了,特斯拉却只剩3款车在卖

马斯克放话:比MPV更酷的新车要来了,特斯拉却只剩3款车在卖

我是一个养虾人
2026-03-25 23:32:20
51岁男子突发心梗猝死!不想得心梗,牢记晚饭4不吃,睡前4不要!

51岁男子突发心梗猝死!不想得心梗,牢记晚饭4不吃,睡前4不要!

健康之光
2026-03-20 17:05:06
3.5亿下岗工人血汗钱,换一叠临期食品小票,曲婉婷的斩杀线到了

3.5亿下岗工人血汗钱,换一叠临期食品小票,曲婉婷的斩杀线到了

小椰的奶奶
2026-03-23 20:32:10
油价反转!95号汽油破9元后迎下调,4月7日调价最新预测

油价反转!95号汽油破9元后迎下调,4月7日调价最新预测

复转这些年
2026-03-26 09:40:14
又是1-3、又是输在决赛!向鹏淘汰温瑞博,获世乒赛参赛资格

又是1-3、又是输在决赛!向鹏淘汰温瑞博,获世乒赛参赛资格

十点街球体育
2026-03-25 20:08:11
3月26日下午中国女排!传来朱婷、李盈莹、袁心玥最新消息

3月26日下午中国女排!传来朱婷、李盈莹、袁心玥最新消息

民哥台球解说
2026-03-26 16:17:49
张雪峰去世,日媒用了这样一句话评价他...

张雪峰去世,日媒用了这样一句话评价他...

今日日本
2026-03-25 11:10:15
惊天逆转!伊朗,吹响进攻号角!

惊天逆转!伊朗,吹响进攻号角!

大嘴说天下
2026-03-23 21:32:12
狂赚18亿!比爱马仕还狠的运动奢侈品,正在掏空中产的钱包

狂赚18亿!比爱马仕还狠的运动奢侈品,正在掏空中产的钱包

青眼财经
2026-03-17 16:03:09
完结9.6分,这部19禁美剧太炸裂了

完结9.6分,这部19禁美剧太炸裂了

来看美剧
2026-03-26 17:07:08
张雪峰早就防着这一天了:为女儿注册40枚商标,防亲戚父爱太沉重

张雪峰早就防着这一天了:为女儿注册40枚商标,防亲戚父爱太沉重

墨染时光
2026-03-26 07:50:31
伊朗终于等来助手,伊拉克正式授权武装组织:放开手脚报复美军

伊朗终于等来助手,伊拉克正式授权武装组织:放开手脚报复美军

起喜电影
2026-03-26 10:14:17
沙特实战封神!中国“天盾”21发全中,15亿美制系统竟惨遭反杀

沙特实战封神!中国“天盾”21发全中,15亿美制系统竟惨遭反杀

素衣读史
2026-03-25 21:26:46
四川高县村支书暴打残疾村妇致轻伤 法院判决免于刑事处罚引争议

四川高县村支书暴打残疾村妇致轻伤 法院判决免于刑事处罚引争议

律法刑道
2026-03-26 10:55:03
特朗普又赢麻了,伊朗这次真让步了,最大障碍扫除了……

特朗普又赢麻了,伊朗这次真让步了,最大障碍扫除了……

清流财记
2026-03-26 16:27:45
三件大事压头顶!特朗普决定:哪怕只能抽出两天时间,也要访华

三件大事压头顶!特朗普决定:哪怕只能抽出两天时间,也要访华

顾蔡卫
2026-03-26 14:41:22
争端升级日本援兵到,中方宣布封海四天,越南警告中国不得造岛

争端升级日本援兵到,中方宣布封海四天,越南警告中国不得造岛

感谢过往的自己
2026-03-25 16:22:23
20亿美元还不够!中企对巴拿马索赔涨价,巴政府内部已经乱套了

20亿美元还不够!中企对巴拿马索赔涨价,巴政府内部已经乱套了

悄悄史话
2026-03-26 14:09:05
华为养了十年的狼,带着一群崽子把家偷了

华为养了十年的狼,带着一群崽子把家偷了

老鹰哥
2026-03-13 11:31:52
2026-03-26 18:00:49

科技要闻

Meta高管狂分百亿期权,700名员工却下岗

头条要闻

男子从四家公司贷出共计356万元 实际到手却仅8万多元

头条要闻

男子从四家公司贷出共计356万元 实际到手却仅8万多元

体育要闻

申京努力了,然而杜兰特啊

娱乐要闻

张雪峰家人首发声 不设追思会丧事从简

财经要闻

长护险谁能享受?享受多少?解答来了

汽车要闻

一汽奥迪A6L e-tron开启预售 CLTC最大续航815km

态度原创

健康
数码
教育
时尚
艺术

转头就晕的耳石症,能开车上班吗?

数码要闻

苹果MacBook Neo将重塑整个笔电行业!分析师纷纷强调:打不过

教育要闻

中小学家长必看数据,看与不看都会后悔

皮衣+裙,高级到炸

艺术要闻

哪一座桥不是风景?

无障碍浏览 进入关怀版
×