网易首页 > 网易科技 > 网易科技 > 正文

Soul App开源实时数字人模型SoulX-FlashTalk:0.87秒低延时、32fps支持超长视频稳定生成

0
分享至

2月3日消息,近日,Soul App AI团队(Soul AI Lab)宣布开源实时数字人生成模型 SoulX-FlashTalk。据介绍,该模型参数规模为14B,可实现0.87s 亚秒级首帧延时、32fps 高帧率推理吞吐,并支持 超长视频稳定生成,面向“实时在线交互”场景落地。



模型表现

官方披露,SoulX-FlashTalk重点解决实时视频交互中的两大难点——低延迟与长时稳定性。在推理侧,团队通过全栈加速引擎将首帧输出延迟压至亚秒级;在长视频生成中,则引入 自纠正双向蒸馏技术 与 多步回溯自纠正机制,模拟误差传播并进行实时修正,降低人物身份漂移与画质衰减风险。与此同时,模型 保留双向注意力机制(All-to-All),使每一帧生成可同时参考过去与隐含未来上下文,从而在超长直播中维持口型、面部细节与背景的一致性,减少画面“崩坏”。

除面部口型对齐外,SoulX-FlashTalk也进一步扩展到 全身动作交互。官方称,该模型支持音频驱动的全身动作生成,并强化手部细节表现,减少手部畸形与运动模糊,同时在动作幅度提升的情况下仍保持较高身份一致性(Subject-C达99.22)。

在训练策略上,团队采用两阶段方案,包括 延迟感知时空适配(Latency-Aware Spatiotemporal Adaptation) 与 自纠正双向蒸馏(Self-Correcting Bidirectional Distillation)。推理侧则结合混合序列并行(Hybrid Sequence Parallelism)、FlashAttention3、3D VAE并行化及torch.compile整链优化等手段,以提升实时推理效率。


训练流程


SoulX-FlashTalk推理架构

Soul AI Lab表示,SoulX-FlashTalk可应用于7×24小时AI直播、短视频制作、AI教育、互动NPC、AI客服等场景,尤其针对数字人直播长时间运行后常见的嘴型漂移、画质模糊等问题提供可落地的解决方案。此前,Soul曾开源语音合成模型 SoulX-Podcast,并在开源社区获得较高关注。

目前,项目页面、技术报告、源码及HuggingFace模型均已上线。(袁宁)

本文来自网易科技报道,更多资讯和深度内容,关注我们。

相关推荐
热点推荐
火箭118-114步行者2喜2忧!泰特打出价值,谢泼德+伊森弊端明显!

火箭118-114步行者2喜2忧!泰特打出价值,谢泼德+伊森弊端明显!

篮球资讯达人
2026-02-03 11:07:39
警惕!仙人跳3.0杀疯了,专坑老实人,一次私了就可能毁终身

警惕!仙人跳3.0杀疯了,专坑老实人,一次私了就可能毁终身

老特有话说
2026-01-29 23:44:15
中国女排队长,留洋被警告,事关车技,球队已遭遇四连败

中国女排队长,留洋被警告,事关车技,球队已遭遇四连败

跑者排球视角
2026-02-02 23:17:53
官方丨切尔西攻击手正式转会米兰

官方丨切尔西攻击手正式转会米兰

米兰圈
2026-02-03 09:26:34
李亚鹏1188元茶叶卖出1.6亿,老板红温的样子走红网络

李亚鹏1188元茶叶卖出1.6亿,老板红温的样子走红网络

映射生活的身影
2026-02-02 22:02:15
钱再多有什么用?35岁最快女护士的现状,给所有中年女性提了个醒

钱再多有什么用?35岁最快女护士的现状,给所有中年女性提了个醒

小熊侃史
2026-02-03 07:05:04
起风了!加拿大对华改口,禁止与中国签协定,65万吨芸苔子白买?

起风了!加拿大对华改口,禁止与中国签协定,65万吨芸苔子白买?

boss外传
2026-02-02 14:00:03
47岁高圆圆自驾游海南,穿无袖黑背心露大粗臂,捡松果碰见羊粪蛋

47岁高圆圆自驾游海南,穿无袖黑背心露大粗臂,捡松果碰见羊粪蛋

手工制作阿歼
2026-02-03 14:46:17
对汉族不爽的这人,据说被刑拘了

对汉族不爽的这人,据说被刑拘了

疫苗与科学
2026-02-02 07:06:18
过年给67岁母亲转了7000,她却到处说给200,我问清楚后冷汗直流

过年给67岁母亲转了7000,她却到处说给200,我问清楚后冷汗直流

船长与船1
2026-02-02 10:03:48
瞄准热火全明星!两老将+双首轮!太阳值得吗?

瞄准热火全明星!两老将+双首轮!太阳值得吗?

篮球盛世
2026-02-03 14:50:17
北京美女王博谷:嫁小7岁演员巴图,婚后生两子,风光背后有辛酸

北京美女王博谷:嫁小7岁演员巴图,婚后生两子,风光背后有辛酸

夏末moent
2026-02-02 17:42:14
刘虎涉诬告罪非法经营罪法律分析:结果掌握在“解释权”里!

刘虎涉诬告罪非法经营罪法律分析:结果掌握在“解释权”里!

兵叔评说
2026-02-03 01:23:07
3号午评:三大指数小幅上涨,所有人都注意,准备迎接新的变盘了

3号午评:三大指数小幅上涨,所有人都注意,准备迎接新的变盘了

春江财富
2026-02-03 12:07:55
外籍机长感慨:在中国不吃香了

外籍机长感慨:在中国不吃香了

观察者网
2026-02-03 11:57:29
快船输76人1喜3忧!2小将打出价值,邓恩攻守全崩,内外防守拉胯

快船输76人1喜3忧!2小将打出价值,邓恩攻守全崩,内外防守拉胯

篮球资讯达人
2026-02-03 14:35:12
东风导弹泄密案:国安追查6年无果,却意外被一卖菜老汉揪出真凶

东风导弹泄密案:国安追查6年无果,却意外被一卖菜老汉揪出真凶

趣文说娱
2026-02-02 18:17:52
剖腹产后被强接回家,19 岁女孩遭虐大出血离世! 丈夫正脸被扒!

剖腹产后被强接回家,19 岁女孩遭虐大出血离世! 丈夫正脸被扒!

云中浮生
2026-01-21 16:36:42
大S离世一周年,韩国电视台首度还原死亡真相,揭露真实致命原因

大S离世一周年,韩国电视台首度还原死亡真相,揭露真实致命原因

小娱乐悠悠
2026-02-03 11:19:36
大龄剩女崩溃的瞬间是什么时候?网友:多年的舔狗突然结婚

大龄剩女崩溃的瞬间是什么时候?网友:多年的舔狗突然结婚

夜深爱杂谈
2026-01-20 18:56:34
2026-02-03 15:36:49

科技要闻

1.25万亿美元!xAI员工赢麻了

头条要闻

女子为大17岁老公怀孕11次逃离 首次发生关系时仅14岁

头条要闻

女子为大17岁老公怀孕11次逃离 首次发生关系时仅14岁

体育要闻

“也许我的一小步,会成为中国足球的一大步”

娱乐要闻

小S致词:感谢具俊晔陪伴大S的最后3年

财经要闻

精神病医院骗保内幕调查:住院相当于坐牢

汽车要闻

问界M6官图首发 以年轻化设计叩击25-30万级市场

态度原创

游戏
家居
房产
本地
公开课

《永恒之塔2》深度评测:好玩归好玩,就是有点挑玩家

家居要闻

极简木艺术 典雅自在

房产要闻

顶豪热潮再起!2026抢入城市恒产,一场独属远见者的红利

本地新闻

云游中国|拨开云雾,巫山每帧都是航拍大片

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×