网易首页 > 网易号 > 正文 申请入驻

龚克:将可解释性作为下阶段AI研究的主攻方向

0
分享至

目前,人工智能技术已深入到各行各业的应用之中,加快推动传统产业数字化转型。7月8日,在以“智联世界·众智成城”为主题的2021世界人工智能大会上,南开大学原校长、中国新一代人工智能发展战略研究院执行院长龚克分享了他关于人工智能发展的看法。

龚克表示,近年来,AI作为一个通用技术正越来越多得和实体经济相融合;与此同时,AI正成为科学研究的一个重要工具。“这些进展的背后,是AI算法的进步,过去三年间,有关算法的研究在持续发展,并且应用领域越来越广泛。”他说道。

此前曾有观点提及,人工智能发展面临着六大瓶颈,分别是数据瓶颈、泛化瓶颈、能耗瓶颈、预义鸿沟瓶颈、可解释性瓶颈和可靠性瓶颈。目前,在龚克看来,AI算法在三大瓶颈上都已取得重要突破。

首先,在数据瓶颈方面,当代人工智能主要是由大数据驱动,因而数据可获得性、数据质量以及数据标注成本等是制约人工智能发展的一大因素。“但在过去一年内,它已经取得了比较明显的进展,比如,当前被大量使用的GPT-3的推出,使得数据领域有了一个非常强大的工具。”龚克说。

据介绍,GPT-3是迄今为止全球规模最大的预训练语言模型,在许多自然语言处理数据集上均具有出色的性能,包括翻译、问答和文本填空任务,还包括一些需要即时推理或领域适应的任务等,已在很多实际任务上大幅接近人类水平。龚克称,未来在图像等其他方面,像GPT-3这种预训练模型的推出指日可待。

另外,深度残差收缩网络以及基于对比学习的自监督学习模型的推出也解决了数据质量和成本的问题。具体而言,深度残差收缩网络通过注意力机制,可注意到重要的特征,再通过软阈值函数将不重要特征置为零,从而加强深度神经网络从含噪声信号中提取有用特征的能力;基于对比学习的自监督学习模型可使用大量无标签数据进行训练,解决了当前数据标注所需要的大量人力及成本问题。

其次,能效瓶颈方面也有突破,且国内外已有不少值得关注的进展。比如,不久前来自MIT、维也纳工业大学、奥地利科技学院的团队仅用19个类脑神经元就实现了控制自动驾驶汽车,而常规的深度神经网络则需要数百万神经元。

再如,去年清华大学计算机系张悠慧团队等提出了“类脑计算完备性”概念以及软硬件耦合的类脑计算系统层次结构,通过理论论证与原型实验证明该类系统的硬件完备性与编译可行性,扩展了类脑计算系统应用范围使之能支持通用计算。龚克称,这一“完备性”新概念的提出,推动了类脑计算,对类脑系统存在的软硬件紧耦合问题而言是一个突破性方案,可使类脑方案应用到不同场景,这是非常重要的进展。

再者,在可解释性瓶颈方面,龚克称,随着人工智能的快速应用,人们对可信任的人工智能呼声越来越高,而要使人工智能性能可信任,首先就要让它做到可解释。如果在可解释方面取得突破,那么就可以突破它的可靠性问题等。

在过去一年,业内在可解释领域已有进展。比如,从几何角度来理解深度学习,提出生成对抗网络 (GANs)的最优传输(OT) 观点。“它通过几何的映射找到了生成对抗网络中的生成器和判决器之间的关系,进而找到了模型坍塌的原因,并提出了一个改进模型,这不能说是在解决可解释瓶颈上获得了突破,但是是一个非常有意义的进展。”龚克说道。

再如,2020年7月,柏林技术大学和康奈尔大学的研究团队发表了公平无偏的排序学习模型FairCo,该研究分析了当前排序模型普遍存在的位置偏差、排序公平性以及物品曝光的马太效应问题等,基于反事实学习技术提出了具有公平性约束的相关度无偏估计方法,并实现了排序性能的提升,受到了业界广泛关注。

但龚克强调,尽管已有上述成果,然而,无论是深度学习体系的创新,还是多种学习方式的融合创新,以及对已有算法进行解释的研究进展,具备理解能力的算法模型目前尚未显现。他称,“我们必须强烈呼吁,把可解释性作为下一段AI领域基础研究的主攻方向,争取在不久的将来能够为AI的进一步广泛应用提供坚实的基础。”

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
上市5年跌没99% ,昔日大牛股几乎套牢所有股民

上市5年跌没99% ,昔日大牛股几乎套牢所有股民

慧眼看世界哈哈
2026-07-04 09:47:32
Meta一脚踢翻了AI的牌桌:芯片、光通信、存储遭血洗,A股中招?

Meta一脚踢翻了AI的牌桌:芯片、光通信、存储遭血洗,A股中招?

海右那人
2026-07-02 15:40:48
1980年,北京没收毛主席徽章,一律上交,遇到硬茬:我一枚也不交

1980年,北京没收毛主席徽章,一律上交,遇到硬茬:我一枚也不交

浩渺青史
2026-07-04 01:53:34
印媒高调宣称,印度空调制造商将帮欧洲降温,抢夺中国厂商的订单

印媒高调宣称,印度空调制造商将帮欧洲降温,抢夺中国厂商的订单

王新喜
2026-07-02 15:08:27
钱再多有什么用?64岁郎平如今的现状,给所有运动员们敲响了警钟

钱再多有什么用?64岁郎平如今的现状,给所有运动员们敲响了警钟

墨印斋
2026-07-04 10:34:58
剑桥研究撕开真相:你每天吃的蛋白质,可能只是"不饿死"的量

剑桥研究撕开真相:你每天吃的蛋白质,可能只是"不饿死"的量

爱医斯坦
2026-07-04 11:35:39
凌晨3点!世界杯重头戏,9.4万球迷见证 C罗大战亚马尔 CCTV5直播

凌晨3点!世界杯重头戏,9.4万球迷见证 C罗大战亚马尔 CCTV5直播

麦子的篮球故事
2026-07-04 13:36:23
中国男篮只带12人出征韩国:战中国台北成生死战 剩9人回北京训练

中国男篮只带12人出征韩国:战中国台北成生死战 剩9人回北京训练

醉卧浮生
2026-07-04 11:31:59
为什么中国不会大规模发钞

为什么中国不会大规模发钞

生命可以承受之轻
2026-07-04 10:25:08
"一尿成名"任素汐:上半身是普通,下半身是贪婪,又丑又性感

"一尿成名"任素汐:上半身是普通,下半身是贪婪,又丑又性感

无处不风景love
2026-07-02 11:53:48
韩红要崩溃了!央视重温播放《天路》,是原唱巴桑版本,评论炸锅

韩红要崩溃了!央视重温播放《天路》,是原唱巴桑版本,评论炸锅

曹莽看世界
2026-07-04 10:05:14
朱珠一家意大利被偶遇:最高级的老钱风,是活成了自己

朱珠一家意大利被偶遇:最高级的老钱风,是活成了自己

TVB的四小花
2026-07-02 09:13:51
老哈梅国葬,100国代表参加,特朗普把话挑明,中方宣布出席规格

老哈梅国葬,100国代表参加,特朗普把话挑明,中方宣布出席规格

影孖看世界
2026-07-03 18:03:17
马蓉也没想到,那个毁了自己半辈子的宋喆,“现实报”来的这么快

马蓉也没想到,那个毁了自己半辈子的宋喆,“现实报”来的这么快

讯崽侃天下
2026-07-04 12:06:32
糯康临刑吐露实情,金三角毒枭不惧武警枪械,唯独忌惮尘封密令

糯康临刑吐露实情,金三角毒枭不惧武警枪械,唯独忌惮尘封密令

唠叨说历史
2026-07-03 17:01:04
四川35岁单亲妈妈恋上17岁湖南小伙,4年过去,如今两人怎样了?

四川35岁单亲妈妈恋上17岁湖南小伙,4年过去,如今两人怎样了?

朗威谈星座
2026-07-04 09:41:54
穆杰塔巴以纸板人的方式出席哈梅内伊葬礼?你被骗了,真相居然是

穆杰塔巴以纸板人的方式出席哈梅内伊葬礼?你被骗了,真相居然是

菁菁子衿
2026-07-04 12:18:30
从现在到三伏天结束,多吃这3种零食,补足营养,三伏少受罪

从现在到三伏天结束,多吃这3种零食,补足营养,三伏少受罪

阿龙美食记
2026-07-03 13:40:38
委内瑞拉20万中国人!18万来自同一个县城,这事儿你敢信?

委内瑞拉20万中国人!18万来自同一个县城,这事儿你敢信?

李云飞Afey
2026-07-03 23:15:40
为什么部分中国球迷会为辱华球队摇旗呐喊?

为什么部分中国球迷会为辱华球队摇旗呐喊?

风铃草语
2026-07-02 06:35:06
2026-07-04 15:15:00
第一财经资讯 incentive-icons
第一财经资讯
第一财经官方账号
258178文章数 622895关注度
往期回顾 全部

科技要闻

韬定律论文V2版,充工程细节和实测数据

头条要闻

美大使装无辜:好失望 你们在中国肯定不自由

头条要闻

美大使装无辜:好失望 你们在中国肯定不自由

体育要闻

揭法国锋线最大优势 有人比姆巴佩还快?

娱乐要闻

最富女歌手霉霉完婚 在纽约设宴庆贺

财经要闻

韩国股市杠杆失控:450亿美元资金狂飙

汽车要闻

方程豹钛9内饰曝光 用上了长联屏设计/下半年上市

态度原创

健康
旅游
亲子
游戏
公开课

听说少吃点能抗衰老?专家讲解!

旅游要闻

迎旅发!兴凯湖畔备好 “醉美” 风景

亲子要闻

告别焦虑,科学守护孩子脊柱健康

《GTA6》PS联动仅一周下架!停盘争议连累宣发?

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版