网易首页 > 网易科技 > 网易科技 > 正文

Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题

0
分享至

(原标题:Soul张璐团队发布开源模型SoulX-LiveAct,破解长时数字人生成难题)

近日,Soul App张璐团队在实时数字人生成领域取得新的技术进展。其旗下AI团队(Soul AI Lab)对外发布开源模型SoulX-LiveAct,该模型通过对自回归扩散框架的结构性优化,使流式生成从“能生成”进一步迈向“能长期稳定生成”,为数字人技术在实际场景中的应用提供了更具可行性的解决方案。

在过去的技术路径中,AR diffusion虽具备流式生成能力,但在长视频场景下往往面临显存持续增长与稳定性下降的双重挑战。SoulX-LiveAct针对这一问题,从条件传播方式与历史记忆管理两个关键环节进行优化,使模型在长时间运行过程中既能保留必要的历史信息,又避免缓存无限扩张带来的性能压力。这一设计使系统在机制层面具备支持更长时的能力,同时保持推理过程的稳定性。

在计算效率方面,SoulX-LiveAct在512×512分辨率下,仅需2张H100/H200即可实现20 FPS的实时流式推理能力,端到端延迟约为0.94秒,单帧计算成本控制在27.2 TFLOPs/ frame。该表现表明,在保证实时性的前提下,模型对算力资源的消耗得到有效控制,为线上部署提供了更具现实性的成本参考。

长时间生成场景中,身份一致性与细节稳定性一直是衡量系统可靠性的关键指标。针对常见的面部漂移、服饰细节变化及口型错位等问题,SoulX-LiveAct在长时间窗口内表现出较好的稳定性。实验结果显示,该模型在持续生成过程中能够维持人物身份特征一致,并保持配饰与纹理细节的连贯呈现,从而降低长时运行中的质量波动。

在技术实现路径上,SoulX-LiveAct基于AR Diffusion范式,构建了Neighbor Forcing与ConvKV Memory两项核心机制。Neighbor Forcing通过在同一扩散步内传播相邻帧的latent信息,使上下文与当前预测处于统一的噪声语义空间,从而减少训练与推理阶段的分布不一致问题。ConvKV Memory则将传统线性增长的KV缓存转化为“短期精确+长期压缩”的结构,通过固定长度的记忆表示实现恒定显存推理,同时兼顾局部细节与全局一致性。此外,配合位置编码对齐机制,模型在长序列处理中能够有效避免位置漂移带来的误差积累。

在训练策略上,SoulX-LiveAct按chunk组织训练样本,模型在训练阶段即接触连续生成与误差累积过程,从而提升其在长时间运行中的稳定性。同时,引入与推理一致的记忆机制,使模型学会在压缩历史信息的条件下仍能保持身份与细节一致,减少训练与实际应用之间的偏差。

在多项基准测试中,SoulX-LiveAct展示了较为均衡的综合表现。在HDTF数据集上,其取得9.40的Sync-C与6.76的Sync-D,同时在分布相似性上获得10.05 FID与69.43 FVD;在VBench评测中,Temporal Quality达到97.6,Image Quality为63.0。VBench-2.0的Human Fidelity达到99.9。在包含全身动作的EMTD数据集上,模型同样保持稳定表现,Sync-C为8.61、Sync-D为7.29,并在Temporal Quality与Image Quality上的分值分别达到97.3与65.7,Human Fidelity为98.9。这些结果反映出其在口型同步、动作表现及整体一致性方面具备较强的稳定能力。

基于上述性能表现,SoulX-LiveAct已能够适配多种对实时性与稳定性要求较高的应用场景。例如,在数字人直播、AI教育、智慧服务终端以及播客录制等场景中,系统需要在长时间运行下保持表达一致性与交互自然性;在开放世界交互环境中,角色需要持续输出稳定的语音与动作表现。SoulX-LiveAct在全身动作与长时推理方面的能力,使其能够支持此类复杂应用需求。

通过开源SoulX-LiveAct,Soul张璐团队进一步丰富了实时数字人领域的技术选择,为开发者在不同算力条件与应用需求下提供更具适配性的解决方案。其在长时稳定与实时推理之间取得平衡的技术路径,也为行业探索数字人持续在线交互能力提供了新的参考。

相关推荐
热点推荐
5000万美元!葡萄牙26岁国脚登陆沙特联,踢完世界杯跟C罗挣大钱

5000万美元!葡萄牙26岁国脚登陆沙特联,踢完世界杯跟C罗挣大钱

球场没跑道
2026-07-14 10:05:56
CNN回应评论员自称与麦康奈尔通话:不算新闻报道

CNN回应评论员自称与麦康奈尔通话:不算新闻报道

追星雷达站
2026-07-14 01:29:07
35岁广州游泳教练确诊艾滋病,痛苦坦言:早有异常,当时没在意

35岁广州游泳教练确诊艾滋病,痛苦坦言:早有异常,当时没在意

白宸侃片
2026-07-14 20:12:27
9比2,亚马尔再次击败姆巴佩,梅西梦里能笑醒,球王地位坚如磐石

9比2,亚马尔再次击败姆巴佩,梅西梦里能笑醒,球王地位坚如磐石

姜大叔侃球
2026-07-15 08:59:37
截胡拜仁!切尔西 5100 万抢世界杯顶级门神,彻底送走桑切斯

截胡拜仁!切尔西 5100 万抢世界杯顶级门神,彻底送走桑切斯

一隅非生
2026-07-15 07:54:04
发现一个现象:越是分房睡、财务上 AA 制、不干涉对方隐私的夫妻,感情越没有温度,心中隔阂太深,把婚姻过成合租

发现一个现象:越是分房睡、财务上 AA 制、不干涉对方隐私的夫妻,感情越没有温度,心中隔阂太深,把婚姻过成合租

不二大叔
2026-07-15 00:02:34
火箭3换1没看走眼!场均20+3断,太像布伦森,比很多乐透区秀都猛

火箭3换1没看走眼!场均20+3断,太像布伦森,比很多乐透区秀都猛

你的篮球频道
2026-07-15 08:20:17
美军称已恢复对伊朗的海上封锁

美军称已恢复对伊朗的海上封锁

财联社
2026-07-15 04:26:02
“请愿将阿根廷逐出世界杯人数已超500万”冲上热搜,阿根廷主帅曾回应:绝不存在任何偏袒,VAR时代偏袒“难如登天”

“请愿将阿根廷逐出世界杯人数已超500万”冲上热搜,阿根廷主帅曾回应:绝不存在任何偏袒,VAR时代偏袒“难如登天”

扬子晚报
2026-07-14 17:45:00
法国队内讧?35岁功勋7场世界杯0出场,姆巴佩曾向他索要队长袖标

法国队内讧?35岁功勋7场世界杯0出场,姆巴佩曾向他索要队长袖标

球场没跑道
2026-07-15 07:39:30
50岁李小冉炸场音乐节:谁规定“奶奶”不能穿亮片抹胸?

50岁李小冉炸场音乐节:谁规定“奶奶”不能穿亮片抹胸?

动物奇奇怪怪
2026-07-15 08:48:27
创历史却抱憾出局,哈兰德抱750刀“小浣熊”回国,同款瞬间卖断货

创历史却抱憾出局,哈兰德抱750刀“小浣熊”回国,同款瞬间卖断货

世界王室那些事
2026-07-14 18:26:05
夺冠热门0-2遭淘汰出局,三大细节令人深思

夺冠热门0-2遭淘汰出局,三大细节令人深思

陈蕙侃故事
2026-07-15 05:44:20
谁的中年不迷惘?蒋方舟的"邪门"中年

谁的中年不迷惘?蒋方舟的"邪门"中年

三人成虎V5
2026-07-14 00:02:59
火箭90-64大胜76人,索顿18+2+4,菲隆17分

火箭90-64大胜76人,索顿18+2+4,菲隆17分

懂球帝
2026-07-15 08:48:07
章子怡用厚底鞋配拉夫劳伦,范宁男友是滚石ceo,乔治王子长高了

章子怡用厚底鞋配拉夫劳伦,范宁男友是滚石ceo,乔治王子长高了

阿裤趣闻君
2026-07-13 20:03:30
围观“天才”坠落之余,蒋方舟事件还有“三问”

围观“天才”坠落之余,蒋方舟事件还有“三问”

澎湃新闻
2026-07-15 08:18:04
终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

终于有经济学家批评体制内退休金太高、加剧代际矛盾,评论区炸锅

慧翔百科
2026-06-23 08:47:02
气势如虹,乌军再复6个村庄,泽连斯基援乌大会收获颇丰

气势如虹,乌军再复6个村庄,泽连斯基援乌大会收获颇丰

史政先锋
2026-07-14 18:31:32
包裹式穿搭,把身材优势和异域气质一起绽放出来

包裹式穿搭,把身材优势和异域气质一起绽放出来

飛尚日记
2026-07-15 07:23:02
2026-07-15 09:28:49

科技要闻

赛力斯还能走出亏损吗?

头条要闻

168万拍"乾隆梅瓶"仅值250元 受害人:一共卖了我5个亿

头条要闻

168万拍"乾隆梅瓶"仅值250元 受害人:一共卖了我5个亿

体育要闻

西班牙刺倒法国:兵不血刃,叶不沾身

娱乐要闻

施南生离世,成龙、甄子丹等发文悼念

财经要闻

增量政策蓄势!总理座谈会定调下半年

汽车要闻

二排能让腿伸平/座舱能制氧 泰钽700要做不一样的硬派越野

态度原创

本地
健康
亲子
房产
公开课

本地新闻

打的直达拉萨,一条视频拿下五十万奖金

高血压为何会导致中风高发?

亲子要闻

我不断记录你的成长但还是觉得太快

房产要闻

三亚湾,最魔幻豪宅项目曝光!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×