网易首页 > 网易号 > 正文 申请入驻

京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

0
分享至


京东又放大招!开源长视频AI神器,彻底解决“角色变脸”难题!

兄弟们好,我是星哥。自从 Sora 关停之后,这 AI 视频赛道可是卷出了天际。国产的可灵、即梦、海艺都在疯狂发力,短视频确实惊艳,但一拉长视频,大家肯定都遇到了一个让人抓狂的痛点——角色一致性

拍着拍着主角就换脸了,声音也变了,简直没法看。

就在最近,京东悄悄扔出了一个“王炸”开源项目:JoyAI-Echo。据说能完美解决长视频角色一致性的问题,上线才两周,GitHub 上就狂揽了 1600+ Star。

今天星哥就带大家盘一盘,这个京东 JoyFutureAcademy 团队搞出来的神器,到底有几把刷子?咱们普通玩家又该怎么上手?


JoyAI-Echo的6大功能

JoyAI-Echo 的核心定位是一个长音频和视频生成框架。简单来说,就是让 AI 视频里的角色在几分钟的长镜头里,脸不变、声不变、衣服也不变。

它是怎么做到的?官方总结了 6 大绝技,星哥给大家翻译成“人话”:

1. 跨模态记忆库(告别“角色失忆”)

以前 AI 生成视频是“金鱼记忆”,换个镜头就重新捏脸。JoyAI-Echo 给 AI 塞了个“记忆库”,主角第一次出场时,把脸型、声音、穿搭全存下来。后续生成直接调用,而且视听结合,不仅脸是对的,声音也是同一个人。


2. 音视频联合生成(告别“后期对口型”)

以前做视频,画面和配音是分开搞的,口型根本对不上。现在它在一个管道里同时输出视频和声音。对白、环境音、BGM 一次性搞定,连后期对口型的活儿都省了。

3. DMD 分布匹配蒸馏(天下武功唯快不破)

长视频生成慢?它用了 DMD 技术,把多步扩散压缩成少步推理。官方数据说提速了约 7.5 倍,关键是速度上去了,角色一致性还没掉。

4. 对话式编辑(导演助理)

想改第三个镜头里主角的衣服颜色?不用从头重跑!它有个 Director Agent 功能,指哪打哪,局部修改。(注:星哥看了下,这个功能目前还在画大饼阶段,代码还没放出来。)

5. 显存优化方案(给平民玩家留条活路)

这玩意儿默认配置要 46~50G 显存,起步就是 H100/A100 这种算力怪兽。但官方很良心,提供了降级方案:把 241 帧降到 121 帧,显存占用直接打骨折。还集成了 ComfyUI,支持 48G 显存热切换。

部署与配置指南

星哥必须给大家泼点冷水,聊聊部署和使用的真实门槛。

1. 硬件门槛不低 虽然官方给了降级方案,但如果你想跑得爽,48G 显存基本是底线。本地没有 A100/4090(24G*2) 的兄弟,建议直接去云上租个带大显存的实例来折腾。

2. 模型下载是个体力活 跑起来之前,你得先从 HuggingFace 下载约 46GB 的模型文件,外加一个 24GBgemma-3-12b 文本编码器。网络不好的兄弟,记得提前挂好梯子或者用国内镜像。

3. 极简启动流程

                                                                 # 克隆仓库
git clone https://github.com/jd-opensource/JoyAI-Echo.git
# 创建并激活环境
conda env create -f environment.yml
conda activate echo-long
# 运行推理
python inference.py

星哥提示:项目自带了 Prompt Enhancer,能把你的大白话故事,自动扩写成包含角色、动作、镜头、音效的专业提示词,非常省心。


目前的局限性

开源项目没有完美的,JoyAI-Echo 也有几个让星哥觉得“还不够爽”的地方:

  1. 1. 不支持图生视频(I2V) :目前只能纯靠文字生成,不能传张图片当起始帧,玩法受限。

  2. 2. 商用限制 :基于 LTX-2 Community License 协议, 仅限学术研究和非商业用途 。想拿去接商单赚钱的兄弟,得去联系 Lightricks 授权。

  3. 3. 只开源了推理 :训练代码没放出来,想自己微调模型的极客们还得再等等。

  4. 4. 部分功能未上线 :前面提到的“导演助理”和 Echo-SR 超分模块,目前都还是“敬请期待”状态。

总结

总的来说,京东这次开源的 JoyAI-Echo 绝对是目前长视频 AI 赛道的一剂强心针。

如果你是一个经常需要制作长视频、对角色一致性要求极高、且有一定硬件基础(或愿意租用云服务器) 的创作者,它绝对值得你花个周末去本地部署折腾一下。毕竟,数据全在本地,隐私安全拉满,还不用每个月交昂贵的订阅费。

开源仓库地址https://github.com/jd-opensource/JoyAI-Echo

如果觉得这篇文章对你有帮助,别忘了点个 “赞”“在看”,顺手星标一下【星哥玩云】,咱们下期干货再见!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
星宇股份就批量劝退应届生致歉

星宇股份就批量劝退应届生致歉

界面新闻
2026-08-27 08:19:14
尼泊尔8:10山洪,10:30砸进吉隆口岸:不是"没预警",是预警的雨量计只装到海关这一侧

尼泊尔8:10山洪,10:30砸进吉隆口岸:不是"没预警",是预警的雨量计只装到海关这一侧

防灾小卫士
2026-08-26 18:05:15
“扶老人被索赔1.9万元”事件死者亲属发声:不可能退还赔偿 老人是牌馆常客 被老板扶出时摔倒 外面热还继续“拖”

“扶老人被索赔1.9万元”事件死者亲属发声:不可能退还赔偿 老人是牌馆常客 被老板扶出时摔倒 外面热还继续“拖”

闪电新闻
2026-08-26 22:26:09
一脸狰狞,表情油腻,还硬在央视剧集演刑警,网友称真不害臊吗?

一脸狰狞,表情油腻,还硬在央视剧集演刑警,网友称真不害臊吗?

往史过眼云烟
2026-08-24 09:39:16
“孙千第一集穿的假名牌”冲上热搜,新剧开播第一集穿仿品面试,网友集体共情:假的,但真实

“孙千第一集穿的假名牌”冲上热搜,新剧开播第一集穿仿品面试,网友集体共情:假的,但真实

扬子晚报
2026-08-26 21:54:48
刘翔深夜再回应:不是我不想走是你们不让!现在执教是毁他人前途

刘翔深夜再回应:不是我不想走是你们不让!现在执教是毁他人前途

念洲
2026-08-27 06:35:41
叙利亚退了,巴勒斯坦退了,黎巴嫩退了,委内瑞拉退了,他们退了,换得了什么?俄罗斯不退,朝鲜不退,中国不退,他们知道退了意味着什么

叙利亚退了,巴勒斯坦退了,黎巴嫩退了,委内瑞拉退了,他们退了,换得了什么?俄罗斯不退,朝鲜不退,中国不退,他们知道退了意味着什么

扶苏聊历史
2026-08-26 13:53:10
西安91岁老人从养老院楼梯摔下生命垂危 养老院称赔偿金太高

西安91岁老人从养老院楼梯摔下生命垂危 养老院称赔偿金太高

大风新闻
2026-08-27 07:23:09
2年1300万美元!库明加签约森林狼拒绝湖人:首发联手华子冲冠

2年1300万美元!库明加签约森林狼拒绝湖人:首发联手华子冲冠

罗说NBA
2026-08-27 06:54:56
欧冠36强全出炉:挪超2队入围!费内巴切时隔18年回归 28日0点抽签

欧冠36强全出炉:挪超2队入围!费内巴切时隔18年回归 28日0点抽签

我爱英超
2026-08-27 05:56:12
受台风“沙德尔”影响,浙江多地航班停飞、铁路停运、交通管控!温州发布“五停”措施:停课、停工、停业、停运

受台风“沙德尔”影响,浙江多地航班停飞、铁路停运、交通管控!温州发布“五停”措施:停课、停工、停业、停运

台州交通广播
2026-08-27 00:26:25
前曼城球星:哈兰德离开曼城不可避免,未来两年成关键

前曼城球星:哈兰德离开曼城不可避免,未来两年成关键

快乐加载中21
2026-08-26 04:42:31
特斯拉中国向公安机关报案

特斯拉中国向公安机关报案

第一财经资讯
2026-08-26 19:47:35
英伟达业绩大超预期!Q2营收利润双双翻倍 下一财年预计营收再涨70%!

英伟达业绩大超预期!Q2营收利润双双翻倍 下一财年预计营收再涨70%!

科创板日报
2026-08-27 07:15:02
初中女生网购6个手办,5个被认定为淫秽物品!大尺度手办售卖乱象曝光,未成年可随意购买

初中女生网购6个手办,5个被认定为淫秽物品!大尺度手办售卖乱象曝光,未成年可随意购买

扬子晚报
2026-08-26 21:51:32
大结局!常州星宇批量劝退应届毕业生风波,人力资源总监被停职,网友:代价之低,令人发指

大结局!常州星宇批量劝退应届毕业生风波,人力资源总监被停职,网友:代价之低,令人发指

火山詩话
2026-08-26 10:07:43
“包贝尔出轨”热搜爆了,曝光者再发最新内容:包贝尔不是嫖娼,红发女子与包贝尔相识于2024年一场聚会,包贝尔在拍戏暂时无法回应

“包贝尔出轨”热搜爆了,曝光者再发最新内容:包贝尔不是嫖娼,红发女子与包贝尔相识于2024年一场聚会,包贝尔在拍戏暂时无法回应

大风新闻
2026-08-26 17:02:46
刘翔深夜再发文:继续搞笑吧,我一直没有离开,并不是我不想走,而是你没让我走,10年了,突然现在要“安置”我……

刘翔深夜再发文:继续搞笑吧,我一直没有离开,并不是我不想走,而是你没让我走,10年了,突然现在要“安置”我……

浙江之声
2026-08-27 07:19:42
尼泊尔泥石流造成西藏吉隆口岸重大人员伤亡失联,亲历者:倒车逃离现场,警车陆续赶来

尼泊尔泥石流造成西藏吉隆口岸重大人员伤亡失联,亲历者:倒车逃离现场,警车陆续赶来

潇湘晨报
2026-08-26 18:09:47
一针50万美元?莫德纳天价癌症疫苗引争议

一针50万美元?莫德纳天价癌症疫苗引争议

界面新闻
2026-08-26 19:50:17
2026-08-27 08:40:49
星哥玩云 incentive-icons
星哥玩云
星哥跟你说说工作生活的那些事
450文章数 281关注度
往期回顾 全部

科技要闻

苹果邀请函:新CEO、折叠屏iPhone都要来了

头条要闻

"扶老人被索赔1.9万"死者亲属:外面热还继续"拖"老人

头条要闻

"扶老人被索赔1.9万"死者亲属:外面热还继续"拖"老人

体育要闻

兑现五年之约,含梗量最高的世界冠军诞生

娱乐要闻

包文婧当初担心包贝尔出轨,预言成真

财经要闻

英伟达,营收翻倍大增,指引碾压预期

汽车要闻

搭华为ADS 5/增程纯电可选 阿尔法T7预售13.78万起

态度原创

游戏
亲子
房产
本地
军事航空

索尼PS+9月会免公布!额外惊喜 这个月有四款

亲子要闻

每天500亿活菌,6周后怎样了?一项多动症研究:3种有益菌增加,睡眠有所改善

房产要闻

煤老板出手,海口又要杀出一个超级大盘!

本地新闻

无印良品竟是桐乡造?这座小城藏着一个刀具帝国

军事要闻

伊朗阿曼拟在霍尔木兹建安全通道

无障碍浏览 进入关怀版