网易首页 > 网易号 > 正文 申请入驻

AAAI 2021最佳论文分享预告!一作亲自解读Transformer长序列建模

0
分享至

AAAI 的英文全称是 Association for the Advance of Artificial Intelligence——美国人工智能协会。该协会是人工智能领域的主要学术组织之一,其主办的年会也是人工智能领域的国际顶级会议。在中国计算机学会的国际学术会议排名以及清华大学新发布的计算机科学推荐学术会议和期刊列表中,AAAI 均被列为人工智能领域的 A 类顶级会议。

AAAI 2021一共收到9034篇论文提交,其中有效审稿有7911篇,最终录取的数量为1692篇,接收率为21.4%。本届会议于2月2日-2月9日全程线上举办。

AI 科技评论现特别策划了AAAI 2021系列论文分享课程,3月 24 日(周三)20:00-21:00 ,AI 科技评论邀请到了AAAI 2021最佳论文获得者-北京航空航天大学周号益博士,作客 AI研习社 AAAI 2021论文解读直播间,为大家详细介绍他被收录的论文工作情况。嘉宾分享完还有问答环节,欢迎大家积极参与讨论,一起探讨相关学术问题。

分享主题

《长序列建模:剑走偏锋or重剑无锋?》

分享时间

北京时间 2021年3月24日(周三) 20:00-21:00

分享嘉宾

▲周号益

周号益,北京航空航天大学计算机学院、大数据科学与脑机智能高精尖创新中心博士生,研究兴趣包括人工智能、机器学习研究,专注时序分析、图像识别等技术在工业互联网、智慧医疗中的应用。

分享背景

长时间序列分析预测一直是人工智能基础理论研究的难点,对工业健康维护、疾病传播预测、网络安全分析等关键领域具有重要作用。AAAI 2021获奖论文指出“传统循环神经网络因误差逐层累积”已不能满足长序列数据分析的需求,并首次明确了Transformer神经网络架构对长序列问题建模的重要意义。该架构的核心优势是构建了自注意力机制来捕捉跨长度的前后相关性,但其伴随的重大挑战是自注意力操作具有随输入长度的二次时间复杂度,无法适用于长序列输入和输出。这是首次在长序列问题上运用Transformer神经网络架构,依靠所提出的可分析稀疏化、注意力蒸馏和生成式解码组成Informer网络结构,可以在同样硬件限制下显著提高序列分析任务性能,为解决长序列问题提供了一种全新的解决方案。

分享提纲

  1. 传统序列建模与新的挑战

  2. 为什么我们需要注意力网络

  3. Informer模型介绍

  4. 结果讨论与工业应用

  5. 未来展望


论文地址

https://arxiv.org/abs/2012.07436

代码地址

https://github.com/zhouhaoyi/Informer2020

直播间观看地址

AI研习社直播 间:https://live.yanxishe.com/room/906

Bilibili直播间: http://live.bilibili.com/5612206

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
全球只剩2只了!还全都是公的,“中国神兽”该如何进行有效繁殖

全球只剩2只了!还全都是公的,“中国神兽”该如何进行有效繁殖

正经的烧杯1
2026-02-20 14:39:06
扎哈罗娃:俄不会暂停特别军事行动

扎哈罗娃:俄不会暂停特别军事行动

参考消息
2026-02-19 13:35:40
花样滑冰女单:美国华裔刘美贤夺金,坂本花织银牌,张瑞阳第19

花样滑冰女单:美国华裔刘美贤夺金,坂本花织银牌,张瑞阳第19

懂球帝
2026-02-20 06:38:04
暴涨388%,骨科帝国再度复兴!

暴涨388%,骨科帝国再度复兴!

医疗器械经销商联盟
2026-02-20 08:00:59
为什么西双版纳快变成“东北版纳”了?

为什么西双版纳快变成“东北版纳”了?

不相及研究所
2026-01-14 22:37:47
82岁大妈:先后请了5个住家保姆,才发现请保姆养老根本不靠谱

82岁大妈:先后请了5个住家保姆,才发现请保姆养老根本不靠谱

拾代谈生活
2026-02-19 12:09:53
《镖人》“武力值”排行榜:阿育娅第7,刀马第3,第1名无争议

《镖人》“武力值”排行榜:阿育娅第7,刀马第3,第1名无争议

观察鉴娱
2026-02-20 11:15:05
中国闹了个乌龙,沙漠种麦本为保粮仓,谁料金黄麦浪竟成治沙神器

中国闹了个乌龙,沙漠种麦本为保粮仓,谁料金黄麦浪竟成治沙神器

一网打尽全球焦点
2026-02-20 05:19:43
刚刚,破50亿!浙江大批人涌入

刚刚,破50亿!浙江大批人涌入

浙江之声
2026-02-19 20:41:32
亏损超5亿,吴京尽力了,2026年春节档第一票房惨案诞生了

亏损超5亿,吴京尽力了,2026年春节档第一票房惨案诞生了

靠谱电影君
2026-02-17 20:53:41
二手“苏菲”价格崩了?399起搞定Surface Pro4到底坑不坑?

二手“苏菲”价格崩了?399起搞定Surface Pro4到底坑不坑?

小兔子发现大事情
2026-02-19 20:53:16
宋慧乔抱爱犬拍新照,白衣淡妆好温柔,头发长长了一些

宋慧乔抱爱犬拍新照,白衣淡妆好温柔,头发长长了一些

笑猫说说
2026-02-20 15:16:51
正式官宣!8将加盟中超黑马,恒大名宿接手球队,新赛季值得期待

正式官宣!8将加盟中超黑马,恒大名宿接手球队,新赛季值得期待

体坛鉴春秋
2026-02-19 11:05:50
欧协附加赛1-1大冷门:英超球队遭弱旅逼平,无缘占得先机

欧协附加赛1-1大冷门:英超球队遭弱旅逼平,无缘占得先机

侧身凌空斩
2026-02-20 03:41:28
莫言:最讨厌正月里走亲戚,你拿两样破东西来我家了,我忙碌半天然后做一桌子菜给你,陪着假笑聊着家常。

莫言:最讨厌正月里走亲戚,你拿两样破东西来我家了,我忙碌半天然后做一桌子菜给你,陪着假笑聊着家常。

二胡的岁月如歌
2026-02-20 13:32:24
著名相声演员离世

著名相声演员离世

豆哥记录
2026-01-07 11:15:43
欠中国的钱,委内瑞拉不还了?美财长:中国已无法继续获得委石油

欠中国的钱,委内瑞拉不还了?美财长:中国已无法继续获得委石油

我是盲流
2026-01-22 11:37:44
深度长文:为何恐龙上亿年没进化出智慧,人类百万年就产生文明?

深度长文:为何恐龙上亿年没进化出智慧,人类百万年就产生文明?

宇宙时空
2026-02-19 14:40:05
国家给我5个亿我就上交!福建男花2亿元珍藏了一张皇帝所睡的龙床

国家给我5个亿我就上交!福建男花2亿元珍藏了一张皇帝所睡的龙床

南权先生
2026-02-12 15:41:39
大批美国游客涌入中国,回国后坦言:客观对比,中国比美国强多了

大批美国游客涌入中国,回国后坦言:客观对比,中国比美国强多了

青仔的世界
2026-02-16 11:54:44
2026-02-20 16:11:00
AI科技评论 incentive-icons
AI科技评论
点评学术,服务AI
7090文章数 20730关注度
往期回顾 全部

科技要闻

莫迪举手欢呼 两大AI掌门人却握拳尴尬对峙

头条要闻

一家三口春节返乡途中患病儿子离世 服务区帮送饭捐款

头条要闻

一家三口春节返乡途中患病儿子离世 服务区帮送饭捐款

体育要闻

战胜冠军赢得冠军 宁忠岩终于翻过了那座山

娱乐要闻

苏翊鸣夺金朱易示爱,两人默契引热议

财经要闻

太疯狂!“顾客不问价直接出手”

汽车要闻

量产甲醇插混 吉利银河星耀6甲醇插混版申报图

态度原创

房产
健康
教育
亲子
军事航空

房产要闻

春节三亚楼市再放大招!千亿巨头,重磅推出超性价比海景现房

转头就晕的耳石症,能开车上班吗?

教育要闻

2026年高考十大热门专业前瞻分析(下):五大经典专业深度解读

亲子要闻

朋友孩子生日送这个礼物,被夸了!

军事要闻

消息人士透露:美军赴黄海活动 解放军有效应对处置

无障碍浏览 进入关怀版