网易首页 > 网易科技 > 网易科技 > 正文

Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题

0
分享至

(原标题:Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题)

近日,Soul App张璐团队在实时数字人生成领域取得新的技术进展。其旗下AI团队(Soul AI Lab)对外发布开源模型SoulX-LiveAct,该模型通过对自回归扩散框架的结构性优化,使流式生成从“能生成”进一步迈向“能长期稳定生成”,为数字人技术在实际场景中的应用提供了更具可行性的解决方案。

在过去的技术路径中,AR diffusion虽具备流式生成能力,但在长视频场景下往往面临显存持续增长与稳定性下降的双重挑战。SoulX-LiveAct针对这一问题,从条件传播方式与历史记忆管理两个关键环节进行优化,使模型在长时间运行过程中既能保留必要的历史信息,又避免缓存无限扩张带来的性能压力。这一设计使系统在机制层面具备支持更长时的能力,同时保持推理过程的稳定性。

在计算效率方面,SoulX-LiveAct在512×512分辨率下,仅需2张H100/H200即可实现20 FPS的实时流式推理能力,端到端延迟约为0.94秒,单帧计算成本控制在27.2 TFLOPs/ frame。该表现表明,在保证实时性的前提下,模型对算力资源的消耗得到有效控制,为线上部署提供了更具现实性的成本参考。

长时间生成场景中,身份一致性与细节稳定性一直是衡量系统可靠性的关键指标。针对常见的面部漂移、服饰细节变化及口型错位等问题,SoulX-LiveAct在长时间窗口内表现出较好的稳定性。实验结果显示,该模型在持续生成过程中能够维持人物身份特征一致,并保持配饰与纹理细节的连贯呈现,从而降低长时运行中的质量波动。

在技术实现路径上,SoulX-LiveAct基于AR Diffusion范式,构建了Neighbor Forcing与ConvKV Memory两项核心机制。Neighbor Forcing通过在同一扩散步内传播相邻帧的latent信息,使上下文与当前预测处于统一的噪声语义空间,从而减少训练与推理阶段的分布不一致问题。ConvKV Memory则将传统线性增长的KV缓存转化为“短期精确+长期压缩”的结构,通过固定长度的记忆表示实现恒定显存推理,同时兼顾局部细节与全局一致性。此外,配合位置编码对齐机制,模型在长序列处理中能够有效避免位置漂移带来的误差积累。

在训练策略上,SoulX-LiveAct按chunk组织训练样本,模型在训练阶段即接触连续生成与误差累积过程,从而提升其在长时间运行中的稳定性。同时,引入与推理一致的记忆机制,使模型学会在压缩历史信息的条件下仍能保持身份与细节一致,减少训练与实际应用之间的偏差。

在多项基准测试中,SoulX-LiveAct展示了较为均衡的综合表现。在HDTF数据集上,其取得9.40的Sync-C与6.76的Sync-D,同时在分布相似性上获得10.05 FID与69.43 FVD;在VBench评测中,Temporal Quality达到97.6,Image Quality为63.0。VBench-2.0的Human Fidelity达到99.9。在包含全身动作的EMTD数据集上,模型同样保持稳定表现,Sync-C为8.61、Sync-D为7.29,并在Temporal Quality与Image Quality上的分值分别达到97.3与65.7,Human Fidelity为98.9。这些结果反映出其在口型同步、动作表现及整体一致性方面具备较强的稳定能力。

基于上述性能表现,SoulX-LiveAct已能够适配多种对实时性与稳定性要求较高的应用场景。例如,在数字人直播、AI教育、智慧服务终端以及播客录制等场景中,系统需要在长时间运行下保持表达一致性与交互自然性;在开放世界交互环境中,角色需要持续输出稳定的语音与动作表现。SoulX-LiveAct在全身动作与长时推理方面的能力,使其能够支持此类复杂应用需求。

通过开源SoulX-LiveAct,Soul张璐团队进一步丰富了实时数字人领域的技术选择,为开发者在不同算力条件与应用需求下提供更具适配性的解决方案。其在长时稳定与实时推理之间取得平衡的技术路径,也为行业探索数字人持续在线交互能力提供了新的参考。

相关推荐
热点推荐
蒋万安民调大胜沈伯洋,岛内学者:为国民党保存未来的重要能量

蒋万安民调大胜沈伯洋,岛内学者:为国民党保存未来的重要能量

海峡导报社
2026-05-28 17:18:36
李宗仁晚年写回忆录痛斥蒋介石,张学良读后称与自己认知相符

李宗仁晚年写回忆录痛斥蒋介石,张学良读后称与自己认知相符

唠叨说历史
2026-05-29 10:06:17
苏联为他破例,毛主席为他题词:一位被遗忘的“共和国全才”

苏联为他破例,毛主席为他题词:一位被遗忘的“共和国全才”

长江浊酒客
2026-05-28 10:30:06
省管领导干部任职前公示

省管领导干部任职前公示

锡望
2026-05-29 18:17:07
豆瓣8.4,没有反转却惊心动魄,这部神作让我们看见,有些真相是用命换来的

豆瓣8.4,没有反转却惊心动魄,这部神作让我们看见,有些真相是用命换来的

新东方
2026-05-27 12:03:38
“崩老头”现象:00后如何收割中年男性

“崩老头”现象:00后如何收割中年男性

流苏晚晴
2026-04-25 16:31:35
在向“特朗普账户”捐款后 戴尔斩获97亿美元 五角大楼合同

在向“特朗普账户”捐款后 戴尔斩获97亿美元 五角大楼合同

每日经济新闻
2026-05-29 11:01:28
2020年,长沙女子癌症晚期,争夺女儿40万学费,直言:我只想活着

2020年,长沙女子癌症晚期,争夺女儿40万学费,直言:我只想活着

大鱼简科
2026-04-06 11:33:07
范蠡52岁悟道:和任何人打交道,只要流露出这三点,结局已成定局

范蠡52岁悟道:和任何人打交道,只要流露出这三点,结局已成定局

梦史
2026-05-26 09:52:57
全场9中1!别着急喷福克斯!全场稳住组织+防守,卡斯尔成赢家!

全场9中1!别着急喷福克斯!全场稳住组织+防守,卡斯尔成赢家!

篮球资讯达人
2026-05-29 12:02:06
为啥胖东来的啤酒被疯抢?普通超市的啤酒没人买?行家:4个原因

为啥胖东来的啤酒被疯抢?普通超市的啤酒没人买?行家:4个原因

涛哥美食汇
2026-05-29 09:56:46
45岁任家萱近况:胖到140斤,手臂疤痕明显,还在备孕想生二胎

45岁任家萱近况:胖到140斤,手臂疤痕明显,还在备孕想生二胎

草莓解说体育
2026-05-29 00:50:40
女子一年租金30万,房东见生意火爆涨到70万,还扬言:少1分立刻搬走!女子没吭声,当即选择联系了搬运队,第3天她推开店门时直接呆住了…

女子一年租金30万,房东见生意火爆涨到70万,还扬言:少1分立刻搬走!女子没吭声,当即选择联系了搬运队,第3天她推开店门时直接呆住了…

人间百晓生
2026-05-18 21:01:34
窦骁说,不是张艺谋找我演的主角,演主角完全是一个意外

窦骁说,不是张艺谋找我演的主角,演主角完全是一个意外

童叔不飙车
2026-05-29 15:27:19
王健林剩100亿了,人都瘦得脱相了,怎么王思聪还照样乱花钱啊?

王健林剩100亿了,人都瘦得脱相了,怎么王思聪还照样乱花钱啊?

小光侃娱乐
2025-12-20 14:35:06
情况越来越不妙,赖清德决定签字,两岸对话被毁,民进党闯下大祸

情况越来越不妙,赖清德决定签字,两岸对话被毁,民进党闯下大祸

观史搜寻着
2026-05-29 06:54:01
向全世界宣布!中国光刻机量产计划,美日荷最担心的事发生了

向全世界宣布!中国光刻机量产计划,美日荷最担心的事发生了

芯火相承
2026-05-28 22:36:38
知名演员无戏可拍,和母亲街边卖鱼意外走红,今选择拍视频当网红

知名演员无戏可拍,和母亲街边卖鱼意外走红,今选择拍视频当网红

白面书誏
2026-05-27 20:46:32
优质“蛋白质”排行榜!牛奶倒数第一,虾肉才排第5,建议了解

优质“蛋白质”排行榜!牛奶倒数第一,虾肉才排第5,建议了解

岐黄传人孙大夫
2025-12-20 10:00:03
历史上五次神奇的巧合,让人们不禁怀疑,世界可能真是一个轮回

历史上五次神奇的巧合,让人们不禁怀疑,世界可能真是一个轮回

阿器谈史
2026-05-09 20:39:39
2026-05-30 03:31:00

科技要闻

Claude Opus 4.8凌晨突发上线

头条要闻

释永信被判24年 中国佛教协会:完全是咎由自取

头条要闻

释永信被判24年 中国佛教协会:完全是咎由自取

体育要闻

即使是文班亚马,也做不到这件事

娱乐要闻

奚梦瑶何猷君将于6月在法国举行婚礼

财经要闻

近3个月跌超20% 黄金"猴市"下的众生相

汽车要闻

900V+3.2秒破百 领克10+&领克10上市16.99万元起

态度原创

数码
家居
手机
时尚
公开课

数码要闻

宏碁推多款游戏新品:两款笔记本、一款串流掌机,还有键盘、背包

家居要闻

云栖 舒展如流云

手机要闻

自研OS+玄戒+AI大模型,小米18系列,稳了!

推广中奖名单-更新至2026年4月28日推广

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×