网易首页 > 网易号 > 正文 申请入驻

Talk预告 | 美国东北大学助理教授王言治:如何实现最优的移动端神经网络加速

0
分享至

  

  本周为TechBeat人工智能社区280线上Talk!

  北京时间2月25日(周四)晚8点美国东北大学助理教授王言治博士的talk将准时在TechBeat人工智能社区上线!

  他与大家分享的主题是如何实现最优的移动端神经网络加速”,将介绍其团队最近的工作“CoCoPIE”,通过压缩——编译协同设计,以克服限制,实现边缘设备上最佳的深度神经网络加速性能。

  Talk·信息

  主题:如何实现最优的移动端神经网络加速

  嘉宾:美国东北大学助理教授 王言治

  上线时间:北京时间225日 (周四) 20:00

  地点:TechBeat人工智能社区

  http://www.techbeat.net/

  Talk·提纲

  移动与嵌入式计算设备已经成为深度学习的关键载体,以促进机器智能的普及。然而,由于边缘设备上的计算/存储资源有限,如何在边缘设备上实现深度神经网络的实时推理是一个公认的挑战。为了克服这一挑战,人们已经研究了深度神经网络的模型压缩,包括权重剪枝与权重量化。然而,目前关于深度神经网络压缩的工作受限于难以同时满足高精度与高硬件性能的双重要求。

  本次Talk介绍了我们最近的工作CoCoPIE,其内容代表了通过压缩——编译协同设计,以克服上述限制,实现边缘设备上最佳的深度神经网络加速性能。我们提出了新型的细粒度结构化剪枝方案,包括模式化权重剪枝、块状权重剪枝等。在编译器的帮助下,它们可以同时实现高硬件性能(类似于通道剪枝),同时保持零精度损失,这是之前的工作无法做到的。

  同样,我们提出了新颖的量化方案,实现了接近2位权重量化的超高硬件性能,同时几乎没有精度损失。通过CoCoPIE框架,我们能够在现有的移动设备上实现实时深度神经网络任务的执行,包括物体检测、姿势估计、活动检测、语音识别等,与之前的工作相比,速度提升了近180倍。

  综合演示请参考以下链接:

  https://space.bilibili.com/573588276?from=search&seid=11881710196887435131

  Talk·参考资料

  

  这是本次分享中将会提及的资料,建议提前预习哦!

  1. “CoCoPIE: Making Mobile AI Sweet as PIE — Compression-Compilation Co-Design Goes a Long Way” (Communications of the ACM Featured Article) is on Arxiv.

  https://arxiv.org/pdf/2003.06700.pdf

  2. YOLObile: Real-Time Object Detection on Mobile Devices via Compression-Compilation Co-Design(AAAI 2021

  https://arxiv.org/pdf/2009.05697.pdf

  3. RT3D: Achieving Real-Time Execution of 3D Convolutional Neural Networks on Mobile Devices(AAAI 2021

  https://arxiv.org/pdf/2007.09835.pdf

  4. An Image Enhancing Pattern-based Sparsity for Real-Time Inference on Mobile Devices(ECCV 2020

  https://arxiv.org/pdf/2001.07710.pdf

  5. RTMobile: Beyond Real-time Mobile Acceleration of RNNs for Speech Recognition(DAC 2020

  https://arxiv.org/pdf/2002.11474.pdf

  6. PCONV: the missing but desirable sparsity in DNN weight pruning for real-time execution on mobile device(AAAI 2020

  https://arxiv.org/abs/1909.05073

  7. PatDNN: Achieving real-time DNN execution on mobile devices with pattern-based weight pruning(ASPLOS 2020

  https://arxiv.org/abs/2001.00138v1

  8. Towards Real-Time DNN Inference on Mobile Platforms with Model Pruning and Compiler Optimization(IJCAI 2020

  https://arxiv.org/pdf/2004.11250.pdf

  9. Wootz: A Compiler-based Framework for Fast CNN Pruning via Composability(PLDI 2019

  https://people.engr.ncsu.edu/xshen5/Publications/pldi2019.pdf

  Talk·提问交流

  

  方式 ①

  在Talk界面下的【交流区】参与互动!留下你的打call和问题,和更多小伙伴们共同讨论,说不定就被讲者直接翻牌解答了呢!

  

  你的每一次贡献,我们都会给予你相应的i豆积分,还会有惊喜奖励哦!

  方式 ②

  在本文留言区直接提出你的问题,或扫描下方二维码提问!问题被选中的小伙伴们将获得一个红包奖励

  ?. ? ~ ?..?~ ?. ?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?

  ?. ? ~ ?..?~ ?. ?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?

  ?. ? ~ ?..?~ ?. ?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?

  ?. ? ~ ?..?~ ?. ?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?..?~ ?. ? ~ ?..?

  快来提问啦!

  Talk·嘉宾介绍

  

  

  王言治

  美国东北大学助理教授

  王言治,现为美国东北大学电子与计算机工程系助理教授。他于2009年获得清华大学学士学位,2014年获得南加州大学博士学位。他的研究方向为深度学习应用的模型压缩与平台加速。自2018年09月以来,他的研究成果创造了在各大代表性深度神经网络上最高的模型压缩率。他在基于AQFP超导的深度神经网络加速方面的工作是迄今为止所有硬件设备中能效最高的。他最近的研究成果CoCoPIE可以利用现成的移动设备在几乎所有的深度学习应用上实现实时性能,其加速性能超过同类型其他各类加速框架的达180倍。

  他的工作被广泛发表在顶级会议和期刊上(如:AAAI、ICML、CVPR、ICLR、IJCAI、ECCV、ICDM、ACM MM、DAC、ICCAD、ASPLOS、ISCA、MICRO、HPCA、PLDI、ICS、PACT、ISSCC、FPGA、LCTES、CCS、VLDB、PACT、ICDCS、Infocom、C-ACM、JSSC、TComputer、TCAS-I、TCAD、JSAC、TNNLS等),被引用超过8300次。他发表的论文曾获5次最佳论文奖和顶级论文奖,1篇Communications of ACM专题文章,另有10次最佳论文提名和4次热门论文奖。他曾获美国陆军青年研究员计划奖(YIP)、马萨诸塞州橡子创新奖(Acorn Innovation Award)、谢明学者奖(Ming Hsieh Scholar Award),以及谷歌、英特尔、MathWorks、Snap等公司的其他研究奖项。他的3名博士/博士后学生成为康涅狄格大学、克莱姆森大学和德克萨斯农工大学(Corpse Christi)的终身制教师。

  

  关于TechBeat人工智能社区

  TechBeat(www.techbeat.net)是一个荟聚全球华人AI精英的成长社区。

  我们希望为AI人才打造更专业的服务和体验,加速并陪伴其学习成长。

  期待这里可以成为你学习AI前沿知识的高地,分享自己最新工作的沃土,在AI进阶之路上的升级打怪的根据地!

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐

终于来了,轮到中方与美“脱钩”!中方出手3天后,美媒急红眼

沙漠军志
2021-04-15 18:52:07

“原来二手平台啥都有卖!”哈哈哈哈,是我无知了啊~

体坛赛事风云录
2021-04-16 07:15:06

“情人是我的活力之源” :靠她收服大老虎,1000多万元仅供挥霍

文雅博苑
2021-04-16 00:06:11

又一大鱼!7.3板+三分47%,两队哄抢!篮网签他吧,他真比阿德强

领袖阿尔弗图
2021-04-16 13:05:11

末代皇帝溥仪的身体,是被胆大的宫女掏空的?他的童年经历了什么

无人的江湖
2021-04-14 14:44:03

全北京都不能看IMAX《指环王》?影院:这次真是“技术原因”

纵相新闻
2021-04-16 13:50:03

保护视力有多重要?看看2500度的近视眼镜是什么样你就懂了!

好奇博士
2021-04-11 10:30:02

负责喝茶的马云

与归随笔
2021-04-15 22:19:25

那些又气又好笑的影视剧穿帮镜头,网友:导演你过来我保证不打你

八圈传播者
2021-04-16 06:16:22

俄军最后尊严到底还能撑多久?库兹涅佐夫号航母俄罗斯已不再需要

战争史
2021-04-15 14:08:33

国永雁涉嫌严重违法接受监察调查

当代广播站
2021-04-15 18:11:48

极兔、百世被罚后:每单涨价4、5毛,遭部分合作商弃用

中新经纬
2021-04-16 11:34:16

美日狼狈为奸,向大海中倾倒核废水,中国外交部一语道破背后真相

王小东
2021-04-15 17:59:06

谁干的?长江南京段出现大量死鱼,多种鱼类遭劫!江豚生存恐受影响

体育课副班长
2021-04-16 07:08:22

从没打入过世界杯决赛圈的五大球队

谈球不说爱
2021-04-16 00:00:09

老爸,你年轻时照片中旁边这位叔叔好帅啊,爸爸:那是你妈啊!

体坛赛事风云录
2021-04-16 10:52:26

最新潜艇消音瓦或彻底消除回声,美军技术人员:太安静让人受不了

迷彩派
2021-04-16 09:57:53

陈冠希给Nike点赞,尬吹的都打脸了吧??

Supreme情报网
2021-04-15 22:26:43

一口气飙上9.2,年度神剧出现了!

小片片说大片
2021-04-14 18:21:17

跳舞跳一半突失踪,女偶像四肢瘫软爬向后台求救,全场目睹吓傻

明星八卦club
2021-04-15 07:12:44
2021-04-16 15:04:51
将门创投
将门创投
加速及投资技术驱动型初创企业
164文章数 134关注度
往期回顾 全部

教育要闻

"文科生太多"会掉进中等收入陷阱?历史的无知!

头条要闻

15岁女孩深夜遇持刀男子 路边突然传来一声吼

头条要闻

15岁女孩深夜遇持刀男子 路边突然传来一声吼

体育要闻

刚出生就临床死亡 阿德胸中有颗"炸弹"

娱乐要闻

王菊穿超短热裤大秀美腿性感魅惑

财经要闻

科技要闻

7分钟视频!华为自动驾驶试乘,相比特斯拉如何

汽车要闻

自有范儿 新宝骏Valli是一台向往远方的休旅车

态度原创

艺术
旅游
教育
亲子
军事航空

艺术要闻

青海省瞿昙寺首获完整准确数字壁画档案

旅游要闻

奥地利森林有“女王”,也有教师

教育要闻

"文科生太多"会掉进中等收入陷阱?历史的无知!

亲子要闻

新中产家长圈风险对冲: 先垄断亲家

军事要闻

俄罗斯航母维修最新情况曝光:进度缓慢