网易首页 > 网易科技 > 网易科技 > 正文

Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题

0
分享至

(原标题:Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题)

近日,Soul App张璐团队在实时数字人生成领域取得新的技术进展。其旗下AI团队(Soul AI Lab)对外发布开源模型SoulX-LiveAct,该模型通过对自回归扩散框架的结构性优化,使流式生成从“能生成”进一步迈向“能长期稳定生成”,为数字人技术在实际场景中的应用提供了更具可行性的解决方案。

在过去的技术路径中,AR diffusion虽具备流式生成能力,但在长视频场景下往往面临显存持续增长与稳定性下降的双重挑战。SoulX-LiveAct针对这一问题,从条件传播方式与历史记忆管理两个关键环节进行优化,使模型在长时间运行过程中既能保留必要的历史信息,又避免缓存无限扩张带来的性能压力。这一设计使系统在机制层面具备支持更长时的能力,同时保持推理过程的稳定性。

在计算效率方面,SoulX-LiveAct在512×512分辨率下,仅需2张H100/H200即可实现20 FPS的实时流式推理能力,端到端延迟约为0.94秒,单帧计算成本控制在27.2 TFLOPs/ frame。该表现表明,在保证实时性的前提下,模型对算力资源的消耗得到有效控制,为线上部署提供了更具现实性的成本参考。

长时间生成场景中,身份一致性与细节稳定性一直是衡量系统可靠性的关键指标。针对常见的面部漂移、服饰细节变化及口型错位等问题,SoulX-LiveAct在长时间窗口内表现出较好的稳定性。实验结果显示,该模型在持续生成过程中能够维持人物身份特征一致,并保持配饰与纹理细节的连贯呈现,从而降低长时运行中的质量波动。

在技术实现路径上,SoulX-LiveAct基于AR Diffusion范式,构建了Neighbor Forcing与ConvKV Memory两项核心机制。Neighbor Forcing通过在同一扩散步内传播相邻帧的latent信息,使上下文与当前预测处于统一的噪声语义空间,从而减少训练与推理阶段的分布不一致问题。ConvKV Memory则将传统线性增长的KV缓存转化为“短期精确+长期压缩”的结构,通过固定长度的记忆表示实现恒定显存推理,同时兼顾局部细节与全局一致性。此外,配合位置编码对齐机制,模型在长序列处理中能够有效避免位置漂移带来的误差积累。

在训练策略上,SoulX-LiveAct按chunk组织训练样本,模型在训练阶段即接触连续生成与误差累积过程,从而提升其在长时间运行中的稳定性。同时,引入与推理一致的记忆机制,使模型学会在压缩历史信息的条件下仍能保持身份与细节一致,减少训练与实际应用之间的偏差。

在多项基准测试中,SoulX-LiveAct展示了较为均衡的综合表现。在HDTF数据集上,其取得9.40的Sync-C与6.76的Sync-D,同时在分布相似性上获得10.05 FID与69.43 FVD;在VBench评测中,Temporal Quality达到97.6,Image Quality为63.0。VBench-2.0的Human Fidelity达到99.9。在包含全身动作的EMTD数据集上,模型同样保持稳定表现,Sync-C为8.61、Sync-D为7.29,并在Temporal Quality与Image Quality上的分值分别达到97.3与65.7,Human Fidelity为98.9。这些结果反映出其在口型同步、动作表现及整体一致性方面具备较强的稳定能力。

基于上述性能表现,SoulX-LiveAct已能够适配多种对实时性与稳定性要求较高的应用场景。例如,在数字人直播、AI教育、智慧服务终端以及播客录制等场景中,系统需要在长时间运行下保持表达一致性与交互自然性;在开放世界交互环境中,角色需要持续输出稳定的语音与动作表现。SoulX-LiveAct在全身动作与长时推理方面的能力,使其能够支持此类复杂应用需求。

通过开源SoulX-LiveAct,Soul张璐团队进一步丰富了实时数字人领域的技术选择,为开发者在不同算力条件与应用需求下提供更具适配性的解决方案。其在长时稳定与实时推理之间取得平衡的技术路径,也为行业探索数字人持续在线交互能力提供了新的参考。

相关推荐
热点推荐
卤菜店使用“四姐”二字被索赔50万元,店主:大家都叫我四姐,为什么告我侵权

卤菜店使用“四姐”二字被索赔50万元,店主:大家都叫我四姐,为什么告我侵权

环球网资讯
2026-04-11 21:50:22
哇这大体格,目测身高175,身形如此的匀称,男人心中的完美伴侣

哇这大体格,目测身高175,身形如此的匀称,男人心中的完美伴侣

动物奇奇怪怪
2026-04-12 03:42:39
内塔尼亚胡:将继续打击伊朗政权,已成功摧毁其核计划和导弹计划,伊朗正请求停火,其领导层内部出现分歧

内塔尼亚胡:将继续打击伊朗政权,已成功摧毁其核计划和导弹计划,伊朗正请求停火,其领导层内部出现分歧

鲁中晨报
2026-04-12 07:48:05
全红婵后续:陈芋汐网暴案刑拘三人,对比差距大,教练组态度明显

全红婵后续:陈芋汐网暴案刑拘三人,对比差距大,教练组态度明显

眼光很亮
2026-04-11 19:25:54
刚赚到的钱,又要吐出去了?中国车企在俄罗斯的“冰与火”

刚赚到的钱,又要吐出去了?中国车企在俄罗斯的“冰与火”

民间胡扯老哥
2026-04-11 05:25:58
伊朗总统与法国总统通电话 称美伊谈判成败取决于美方

伊朗总统与法国总统通电话 称美伊谈判成败取决于美方

财联社
2026-04-12 04:47:35
滕森里穗(熟女的魅力挡不住)

滕森里穗(熟女的魅力挡不住)

蓝色海洋009
2026-04-12 01:53:37
回到台湾就被抓?郑丽文和大陆谈完,临走前达成共识,赖清德急了

回到台湾就被抓?郑丽文和大陆谈完,临走前达成共识,赖清德急了

趣文说娱
2026-04-12 01:59:33
张雪冠军复刻赛车得主“敌敌畏”最新消息:代公司拍下;想付尾款,但联系不上张雪方,目前对方也未主动联系自己

张雪冠军复刻赛车得主“敌敌畏”最新消息:代公司拍下;想付尾款,但联系不上张雪方,目前对方也未主动联系自己

极目新闻
2026-04-11 11:24:30
霍尔木兹海峡,突传大消息!特朗普,最新发声!比特币直线跳水

霍尔木兹海峡,突传大消息!特朗普,最新发声!比特币直线跳水

证券时报e公司
2026-04-11 21:48:29
资讯很有料|美伊数十年来最高级别直接会谈 历史性接触陷进霍尔木兹海峡漩涡

资讯很有料|美伊数十年来最高级别直接会谈 历史性接触陷进霍尔木兹海峡漩涡

国际在线
2026-04-12 07:59:37
被传离婚6年后,董卿婚姻真相大白,如今隐居上海,低调陪父母

被传离婚6年后,董卿婚姻真相大白,如今隐居上海,低调陪父母

往史过眼云烟
2026-04-11 15:01:23
回到台湾就被抓?郑丽文和大陆谈完,临走前达成共识,赖清德急了

回到台湾就被抓?郑丽文和大陆谈完,临走前达成共识,赖清德急了

本末倒置也
2026-04-11 23:41:41
王珞丹现状:搬进深山生活,母亲不再催婚,41岁和两只狗相依为命

王珞丹现状:搬进深山生活,母亲不再催婚,41岁和两只狗相依为命

子芫伴你成长
2026-04-11 23:28:26
广东:超强台风,可能发生20年一遇洪水!

广东:超强台风,可能发生20年一遇洪水!

东莞好生活
2026-04-11 16:40:22
美伊“特殊交易”曝光:美国解冻资产,换取海峡安全通航

美伊“特殊交易”曝光:美国解冻资产,换取海峡安全通航

识局Insight
2026-04-11 18:36:49
“这就是研究生宿舍?”山东女生考上江苏大学却崩溃吐槽:环境差、生活不便引争议

“这就是研究生宿舍?”山东女生考上江苏大学却崩溃吐槽:环境差、生活不便引争议

辉哥说动漫
2026-04-11 17:47:51
演员吕严吃面加葱花被拒,遇见小面致歉

演员吕严吃面加葱花被拒,遇见小面致歉

界面新闻
2026-04-11 16:26:18
巴基斯坦官员回忆调停当晚:伊朗咬死不肯停火,直到中国紧急出面

巴基斯坦官员回忆调停当晚:伊朗咬死不肯停火,直到中国紧急出面

策略述
2026-04-12 00:20:54
48架F-35压境,美日撕破脸!王毅专机直插平壤,中朝抄了美军后路

48架F-35压境,美日撕破脸!王毅专机直插平壤,中朝抄了美军后路

策略述
2026-04-11 16:41:05
2026-04-12 09:12:49

科技要闻

半夜被燃烧瓶砸醒,OpenAI CEO发文反思

头条要闻

男子自带茅台就餐饮用时感觉不对味 服务员还"消失"了

头条要闻

男子自带茅台就餐饮用时感觉不对味 服务员还"消失"了

体育要闻

换帅之后,他们从降级区冲到升级区

娱乐要闻

郑钧回应儿子走路:会监督他挺直腰板

财经要闻

从日本翻身看:这次谁能扛住高油价?

汽车要闻

焕新极氪007/007GT上市 限时19.39万起

态度原创

时尚
旅游
本地
艺术
房产

春季穿衣别死气沉沉,看看这27套日常穿搭,活力时尚又减龄

旅游要闻

这个春天,不妨来车墩,游乡野看江景

本地新闻

12吨巧克力有难,全网化身超级侦探添乱

艺术要闻

郑丽文缺席丈夫引争议!洪秀柱书法爆红,传统与现代的碰撞!

房产要闻

土地供应突然暴跌!2026海口楼市,格局大变!

无障碍浏览 进入关怀版
×