网易首页 > 网易号 > 正文 申请入驻

阿里云在海外爆火的视频生成论文,现在终于有应用了

0
分享至



现在的大模型应用,越来越卷了。

前一阵,阿里云的通义千问 App 上线了个视频生成的新功能,只需要一张照片,就能生成自定义的舞蹈视频。



根据官方的介绍,这个功能不仅能生成视频,而且面部表情、衣着打扮以及背景等等,也保留了照片原来的特征。

最主要的是,没什么门槛,在手机上下个 App 就能玩。

所以功能上线不久,就在网上掀起了一大波试用风潮,堪称整活大赏。



从兵马俑跳科目三,到科目三席卷三国,还有不少粉丝用自家爱豆的照片 “ 恶搞 ”,短短几天时间各种鬼畜视频层出不穷。

甚至,#兵马俑跳科目三# 的词条,在微博上已经有了千万级别的热度。



“ 科目三火到考古圈 ”、“ 还没学会科目三的不用卷了,下一个通义千问 App 就行 ”、“ 这个世界越来越疯狂了,AI好牛 ”,网络上诸如此类的评论不绝于耳。

趁着热度,知危编辑部也在第一时间下载了最新版的通义千问 App,上手试了试这个新功能。

打开通义千问 App,视频生成功能的入口并没有直接出现在首页的功能模块里,而是需要在对话框里输入 “ 全民舞王 ” 或者 “ 通义舞王 ” 等关键词,再跳转到体验页面。



该功能里面有包括科目三、DJ 慢摇、鬼步舞还有秧歌在内的 12 种舞蹈模板,随机选择舞种再上传一张全身照就行。

当然,如果自己不想上传照片,官方也有默认图片模板可供选择,整个流程操作起来没什么难度。

只不过需要注意的是,在上传照片的时候,照片的分辨率要大于 500 × 500,而且需要正面站立的全身照,不能有遮挡,如果侧身站或者背景过于复杂,可能会影响最后生成的效果。



我们先是拿最近火爆全网的科目三来试了试。

上传一张马斯克的全身照,再等待十分钟左右,一个马斯克跳科目三的视频就新鲜出炉了。



舞蹈动作流畅,包括西装、鞋子在内,也跟原来的照片没什么两样,甚至动起来的老马连眨眼睛都很自然。

虽然跳舞过程中手部有些小瑕疵,但并不影响整体的视觉效果。

随后,我们又用扎克伯格试了划桨舞。





原图

可以看看照片和视频之间的对比,虽然原照片小扎并没有双臂垂直站立,但视频里手臂部分的还原度很高,就连衣服上的褶皱变化都能模拟出来。

之前老马和小扎一直 “ 约架 ” 不成,这次斗舞就当是看个乐呵了。

而除了能让真人跳舞以外,我们发现动漫人物同样也可以整活。

比如,让迪迦奥特曼扭东北秧歌。



还有鸣人跳爱心表白舞。



章鱼哥摆着臭脸,跳兔子舞。



甚至于,雕像也动起来。

就比如,唐代仕女俑再加上 DJ 慢摇的组合。



还有手办鬼步舞。



体验下来,我们觉得这个让照片跳舞的新功能可玩性还是挺高的,而且生成效果同样可圈可点。

但不可否认的是,最后生成的视频并非没有瑕疵,包括背景、脸部和手部,会出现不同程度的抖动或者轻微变形。

不过,这也是视频生成的通病了。

一直以来,视频生成都存在着生成困难、生成时间长还有生成效果不一致的情况,特别是如何保持人物形象一致和动作流畅,更是学界和业界都在攻克的难题。

如果从体验的整体效果来看,这次通义千问上线的视频生成功能已经有了非常大的突破。

而这背后,多亏了阿里研究团队自研的 Animate Anyone 视频生成模型。

正如前文的体验,这个模型可以只通过一张图像,就无缝生成动画视频。



通常,视频生成需要具备一致性、可控性和连续性三要素,也就是视频高度还原图片的细节、姿势动作需要精准可控,还有动作和动作之间连贯不卡壳。

在一致性上,Animate Anyone 引入了 ReferenceNet,这是一种特征提取网络。

简单来理解,用这个就可以提取图像里的一些外观特征,从而使视频高度还原人物形象、面部表情还有服装上的细节。



与此同时,从评测结果来看,Animate Anyone 的性能也要优于国内外的同类模型。



所以,这次全民舞王应用在国内能火起来,也算是在情理之中。

不过,更早些时候,这个模型其实就已率先在海外火起来了。

一个月前,阿里通义实验室团队在 arXiv 上发了一篇关于 Animate Anyone 模型的论文。



很快,这篇论文就在推特和 YouTube 等海外社交媒体平台上,引起了巨大反响。

光是推特上的一篇帖子,就有五千多万的浏览量。



YouTube 上,Animate Anyone 的相关视频播放量轻松破十万。



在 GitHub 上,短短几天时间内也收获了上万颗星



只不过,当时的 Animate Anyone 对外还只是停留在论文阶段,不少网友都表示要蹲一蹲体验入口。



所以,阿里的团队也趁热打铁在通义千问 App 上推出了这个功能,让国内的用户先体验了一把。

从结果来看,确实也激起了不小的水花。

事实上,从去年下半年开始,在视频生成领域的各种大模型应用可以用百花齐放来形容。

比如,Runway 用画笔涂一涂,图片就能变视频;Pika1.0 免费开放试用;Stability AI 顺势入局图生视频领域,推出 Stable Video Diffusion。



国内方面,在阿里的 Animate Anyone 推出后不久,字节也推了个 Magic Animate,不少评测博主还专门对两个模型进行了对比。

不难看出来,多模态大模型的应用潜力已经被激发,整个行业其实都在往视频生成的方向卷。

从文本生成到图像生成,再到如今爆火的视频生成,过去一年,大模型的发展速度远远超过了人们的预期。《 福布斯 》近期发布的报告也已经明确提出了 2024 年多模态生成将有巨大的潜力。

接下来,视频生成能否诞生一个全新的爆款?

问题的答案需要时间来验证,但 2024 年伊始,阿里这波让照片跳舞的应用成功破圈,算是给行业加了把火。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
张学良推测:西安事变的实际策划者,是共产党员王炳南

张学良推测:西安事变的实际策划者,是共产党员王炳南

奇人奇史
2024-06-15 01:55:03
美媒:中国北斗导航系统已逐步取代GPS,美国或有巨大风险!

美媒:中国北斗导航系统已逐步取代GPS,美国或有巨大风险!

吾天
2024-06-14 00:03:56
奚梦瑶带一双儿女参加小姑子生日派对,四太抱孙子满脸幸福笑容

奚梦瑶带一双儿女参加小姑子生日派对,四太抱孙子满脸幸福笑容

娱圈小愚
2024-06-15 10:26:23
连任5天后,莫迪第一把火烧向中国,给藏南30多地改名,强行占有

连任5天后,莫迪第一把火烧向中国,给藏南30多地改名,强行占有

说天说地说实事
2024-06-14 20:20:47
53集谍战剧,7位影帝集合,全员演技派,剧情精彩,没看过可惜了

53集谍战剧,7位影帝集合,全员演技派,剧情精彩,没看过可惜了

猪猪侃娱乐
2024-06-15 13:37:45
郭有才的红,张雪峰的火,宋江的招安,背后都指向了同一件事

郭有才的红,张雪峰的火,宋江的招安,背后都指向了同一件事

楼南的乔伊斯
2024-06-15 09:40:02
人送“韩国第一美臀”,光是凭借一张动图就足够俘获许多人的心

人送“韩国第一美臀”,光是凭借一张动图就足够俘获许多人的心

跑步心情
2024-06-15 10:00:15
女儿探望改嫁母亲,看到49岁的母亲挺着孕肚,见到继父一瞬间傻了

女儿探望改嫁母亲,看到49岁的母亲挺着孕肚,见到继父一瞬间傻了

星辰故事屋
2024-06-07 12:09:20
张学友,确诊了!

张学友,确诊了!

医客
2024-06-14 12:07:59
联想以科技无国界为由,要求向美提供月壤,法国反对,欧空局反水

联想以科技无国界为由,要求向美提供月壤,法国反对,欧空局反水

嘿哥哥科技
2024-06-15 07:59:01
无法在中国合法上路!马斯克:特斯拉需要为中国生产特供版Cybertruck,或在部分功能上有所妥协【附皮卡行业发展趋势分析】

无法在中国合法上路!马斯克:特斯拉需要为中国生产特供版Cybertruck,或在部分功能上有所妥协【附皮卡行业发展趋势分析】

前瞻网
2024-06-14 16:12:16
郑永年:一味唱衰美国,甚至认为中国很快可以取代美国是害国主义

郑永年:一味唱衰美国,甚至认为中国很快可以取代美国是害国主义

奇人奇史
2024-06-13 22:15:02
拜登未料到,中国三大部门宣布,断供航天发动机、复合材料

拜登未料到,中国三大部门宣布,断供航天发动机、复合材料

嘿哥哥科技
2024-06-14 08:38:03
大姨家37岁表哥结婚了,全家高兴,可看到大姨的新家,我笑不出来

大姨家37岁表哥结婚了,全家高兴,可看到大姨的新家,我笑不出来

梦想的初见2016
2024-06-14 15:33:18
跌落神坛的八大顶级商品,号称一件能顶一套房,你买过几种?

跌落神坛的八大顶级商品,号称一件能顶一套房,你买过几种?

牛锅巴小钒
2024-06-15 07:10:08
7分5板!2米24天才少女展现潜力,被朝鲜高塔现场教学,仍需提升

7分5板!2米24天才少女展现潜力,被朝鲜高塔现场教学,仍需提升

理工男评篮球
2024-06-15 13:34:20
欧洲杯首轮:CCTV5直播,黄金时间,西班牙、意大利奋战死亡之组

欧洲杯首轮:CCTV5直播,黄金时间,西班牙、意大利奋战死亡之组

侧身凌空斩
2024-06-15 12:41:41
太遗憾!女单世界冠军0:3不敌日本伊藤美诚,单局只得1分太尴尬

太遗憾!女单世界冠军0:3不敌日本伊藤美诚,单局只得1分太尴尬

国乒二三事
2024-06-15 07:16:25
难怪有人对父母感到心寒!看了网友的分享,心酸得想大哭一场

难怪有人对父母感到心寒!看了网友的分享,心酸得想大哭一场

镜头时光
2024-06-11 00:54:32
最新世界排名榜!丁俊晖亚洲最高,准神直逼艾伦,奥沙利文第五!

最新世界排名榜!丁俊晖亚洲最高,准神直逼艾伦,奥沙利文第五!

世界体坛观察家
2024-06-15 05:11:07
2024-06-15 16:54:44
知危
知危
投资不立危墙之下
273文章数 1678关注度
往期回顾 全部

科技要闻

TikTok开始找退路了?

头条要闻

80后女下属表白60后副行长 业内人士:应遵循利益回避

头条要闻

80后女下属表白60后副行长 业内人士:应遵循利益回避

体育要闻

残暴的德国战车,和苏格兰的祖传倒霉蛋

娱乐要闻

江宏杰秀儿女刺青,不怕刺激福原爱?

财经要闻

新情况!高层对人民币的态度180°转弯

汽车要闻

东风奕派eπ008售21.66万元 冰箱彩电都配齐

态度原创

艺术
房产
健康
教育
时尚

艺术要闻

穿越时空的艺术:《马可·波罗》AI沉浸影片探索人类文明

房产要闻

万华对面!海口今年首宗超百亩宅地,重磅挂出!

晚餐不吃or吃七分饱,哪种更减肥?

教育要闻

2024年上半年,全国大学英语四六级考试开考,你觉得你能考多少分?

夏季“基础款”怎么穿出彩?看到这些阿姨的打扮,立马有思路

无障碍浏览 进入关怀版