网易首页 > 网易科技 > 网易科技 > 正文

Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题

0
分享至

(原标题:Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题)

近日,Soul App张璐团队在实时数字人生成领域取得新的技术进展。其旗下AI团队(Soul AI Lab)对外发布开源模型SoulX-LiveAct,该模型通过对自回归扩散框架的结构性优化,使流式生成从“能生成”进一步迈向“能长期稳定生成”,为数字人技术在实际场景中的应用提供了更具可行性的解决方案。

在过去的技术路径中,AR diffusion虽具备流式生成能力,但在长视频场景下往往面临显存持续增长与稳定性下降的双重挑战。SoulX-LiveAct针对这一问题,从条件传播方式与历史记忆管理两个关键环节进行优化,使模型在长时间运行过程中既能保留必要的历史信息,又避免缓存无限扩张带来的性能压力。这一设计使系统在机制层面具备支持更长时的能力,同时保持推理过程的稳定性。

在计算效率方面,SoulX-LiveAct在512×512分辨率下,仅需2张H100/H200即可实现20 FPS的实时流式推理能力,端到端延迟约为0.94秒,单帧计算成本控制在27.2 TFLOPs/ frame。该表现表明,在保证实时性的前提下,模型对算力资源的消耗得到有效控制,为线上部署提供了更具现实性的成本参考。

长时间生成场景中,身份一致性与细节稳定性一直是衡量系统可靠性的关键指标。针对常见的面部漂移、服饰细节变化及口型错位等问题,SoulX-LiveAct在长时间窗口内表现出较好的稳定性。实验结果显示,该模型在持续生成过程中能够维持人物身份特征一致,并保持配饰与纹理细节的连贯呈现,从而降低长时运行中的质量波动。

在技术实现路径上,SoulX-LiveAct基于AR Diffusion范式,构建了Neighbor Forcing与ConvKV Memory两项核心机制。Neighbor Forcing通过在同一扩散步内传播相邻帧的latent信息,使上下文与当前预测处于统一的噪声语义空间,从而减少训练与推理阶段的分布不一致问题。ConvKV Memory则将传统线性增长的KV缓存转化为“短期精确+长期压缩”的结构,通过固定长度的记忆表示实现恒定显存推理,同时兼顾局部细节与全局一致性。此外,配合位置编码对齐机制,模型在长序列处理中能够有效避免位置漂移带来的误差积累。

在训练策略上,SoulX-LiveAct按chunk组织训练样本,模型在训练阶段即接触连续生成与误差累积过程,从而提升其在长时间运行中的稳定性。同时,引入与推理一致的记忆机制,使模型学会在压缩历史信息的条件下仍能保持身份与细节一致,减少训练与实际应用之间的偏差。

在多项基准测试中,SoulX-LiveAct展示了较为均衡的综合表现。在HDTF数据集上,其取得9.40的Sync-C与6.76的Sync-D,同时在分布相似性上获得10.05 FID与69.43 FVD;在VBench评测中,Temporal Quality达到97.6,Image Quality为63.0。VBench-2.0的Human Fidelity达到99.9。在包含全身动作的EMTD数据集上,模型同样保持稳定表现,Sync-C为8.61、Sync-D为7.29,并在Temporal Quality与Image Quality上的分值分别达到97.3与65.7,Human Fidelity为98.9。这些结果反映出其在口型同步、动作表现及整体一致性方面具备较强的稳定能力。

基于上述性能表现,SoulX-LiveAct已能够适配多种对实时性与稳定性要求较高的应用场景。例如,在数字人直播、AI教育、智慧服务终端以及播客录制等场景中,系统需要在长时间运行下保持表达一致性与交互自然性;在开放世界交互环境中,角色需要持续输出稳定的语音与动作表现。SoulX-LiveAct在全身动作与长时推理方面的能力,使其能够支持此类复杂应用需求。

通过开源SoulX-LiveAct,Soul张璐团队进一步丰富了实时数字人领域的技术选择,为开发者在不同算力条件与应用需求下提供更具适配性的解决方案。其在长时稳定与实时推理之间取得平衡的技术路径,也为行业探索数字人持续在线交互能力提供了新的参考。

相关推荐
热点推荐
中国的萝卜快跑明明已经跑了4年,可为什么生意越来越少了?

中国的萝卜快跑明明已经跑了4年,可为什么生意越来越少了?

流苏晚晴
2026-09-07 11:52:58
中方已接受邀请!埃及刚向法国发出阵风增购招标,转头请中国空军去航展撑门面,还要歼16、空警500等多型军机

中方已接受邀请!埃及刚向法国发出阵风增购招标,转头请中国空军去航展撑门面,还要歼16、空警500等多型军机

扶苏聊历史
2026-09-08 14:43:02
医生呼吁:马上停用3种调味酱,它是肠癌催化剂!再下饭也别沾

医生呼吁:马上停用3种调味酱,它是肠癌催化剂!再下饭也别沾

观星赏月
2026-09-07 00:44:10
揭秘:高质量性生活的黄金时长,多少分钟最容易让人满足?

揭秘:高质量性生活的黄金时长,多少分钟最容易让人满足?

精彩分享快乐
2026-09-08 21:00:03
你有没有发现,当年中国入世谈判花了15年,如今为啥WTO几乎被国人忘记了

你有没有发现,当年中国入世谈判花了15年,如今为啥WTO几乎被国人忘记了

怪味历史连连看
2026-09-08 10:25:12
女子指控4岁男童“摸屁股”,“过度维权”理应及时纠偏|封面评论

女子指控4岁男童“摸屁股”,“过度维权”理应及时纠偏|封面评论

封面新闻
2026-09-08 13:26:03
乌媒曝光美国所提俄乌和平新计划

乌媒曝光美国所提俄乌和平新计划

参考消息
2026-09-08 19:31:33
CCTV5直播,中国女篮PK波多黎各队,2人成为胜负手,宫鲁鸣冲八强

CCTV5直播,中国女篮PK波多黎各队,2人成为胜负手,宫鲁鸣冲八强

体坛小快灵
2026-09-08 10:22:33
民众呼吁“取消养老特权”!71岁专家引发争议,养老差距真相大白

民众呼吁“取消养老特权”!71岁专家引发争议,养老差距真相大白

百科密码
2026-08-31 10:02:15
湖北省体育局局长:真诚邀请郑钦文回武汉参加比赛

湖北省体育局局长:真诚邀请郑钦文回武汉参加比赛

懂球帝
2026-09-08 21:05:07
俄罗斯下手太狠了,9月7日塔斯社放出俄军出动苏-34编队大规模出击的新闻,直冲克拉马托尔斯克和第聂伯河沿岸

俄罗斯下手太狠了,9月7日塔斯社放出俄军出动苏-34编队大规模出击的新闻,直冲克拉马托尔斯克和第聂伯河沿岸

扶苏聊历史
2026-09-08 14:18:42
郑钦文被看衰!美网夺冠赔率第7 外媒看好莱巴金娜赢球登世界第1

郑钦文被看衰!美网夺冠赔率第7 外媒看好莱巴金娜赢球登世界第1

念洲
2026-09-08 08:49:07
30岁退役的英超欧冠双料球星,被赌博拖垮

30岁退役的英超欧冠双料球星,被赌博拖垮

码上闲叙
2026-09-08 18:04:43
立刻停止审判!菲参议员逼宫:豁免权马科斯有萨拉也要有

立刻停止审判!菲参议员逼宫:豁免权马科斯有萨拉也要有

麓谷隐士
2026-09-09 00:05:03
女子形迹可疑四处张望,向西安街边雨水井塞入管状不明物品,警方已介入调查

女子形迹可疑四处张望,向西安街边雨水井塞入管状不明物品,警方已介入调查

极目新闻
2026-09-08 19:57:15
4换2!交易扫清障碍!锡安等来总决赛带刀侍卫

4换2!交易扫清障碍!锡安等来总决赛带刀侍卫

篮球实战宝典
2026-09-08 21:37:52
砸了千亿催生失效!国家终于醒悟:年轻人不生孩子,根本就不是懒

砸了千亿催生失效!国家终于醒悟:年轻人不生孩子,根本就不是懒

历史点行
2026-08-01 16:22:47
福耀科技大学2026本科新生代表田智鹤走红:她来自甘肃,高考656分,是福耀科大在甘肃录取的第一名,本人透露选择福耀科大原因!

福耀科技大学2026本科新生代表田智鹤走红:她来自甘肃,高考656分,是福耀科大在甘肃录取的第一名,本人透露选择福耀科大原因!

凯旋学长
2026-09-08 12:24:30
她是女排名宿,如今却在上海当中学副校长,徒弟已是男排顶级主攻

她是女排名宿,如今却在上海当中学副校长,徒弟已是男排顶级主攻

吃青菜长高
2026-09-08 02:44:05
开通不到一周盲道已多处开胶,上海一吴淞江大桥被指施工太过潦草,建设单位:全部铲掉重新铺

开通不到一周盲道已多处开胶,上海一吴淞江大桥被指施工太过潦草,建设单位:全部铲掉重新铺

扬子晚报
2026-09-08 07:20:10
2026-09-09 04:07:00

科技要闻

小米再次背水一战

头条要闻

伊朗公布捕获美军先进潜航器现场画面 美官员回应

头条要闻

伊朗公布捕获美军先进潜航器现场画面 美官员回应

体育要闻

韩旭:我一定会再次走出去

娱乐要闻

郭德纲被处罚,郭麒麟被曝恋情瓜

财经要闻

智谱六连跌失守1000大关,发生了什么?

汽车要闻

领克20 领克的纯电小钢炮这次更运动了

态度原创

数码
亲子
本地
手机
公开课

数码要闻

追觅把机器人的本事,装进整个家

亲子要闻

,这怎么办哈哈哈哈哈哈

本地新闻

宁波,中国制造的隐藏大佬

手机要闻

华为Mate XT 2被拆:麒麟9050 Pro的丝印和架构细节,被逐一确认!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×