网易首页 > 网易科技 > 网易科技 > 正文

陶大程教授:AI是人性的一种映射,是人类“反思”的机会

0
分享至
《新基建访谈》是网易科技推出的重磅访谈栏目,邀请中外院士、顶级科学家、顶级企业家和投资人一起,共同探讨新基建的未来趋势以及数字经济的发展态势。历经两年发展,新基建访谈已经成为该领域的王牌栏目,迄今超过30多名院士、企业家参与访谈。

出品|《新基建访谈》No.49

采访|丁广胜

整理|陈雨萌

为何可信人工智能如此备受关注?

人工智能的脆弱性到底在什么地方?

信任危机背后,人工智能的发展去向何方?

带着种种疑惑,我们特邀陶大程教授参与《新基建访谈》交流,他提出人工智能目前还面临“四大问题”,还为我们深度解读了京东探索研究院和中国信息通信研究院联合撰写发布的国内首本《可信人工智能白皮书》。

陶教授是国际人工智能领域的知名学者,现任京东探索研究院院长、悉尼大学数字科学研究所顾问兼首席科学家。他是澳大利亚科学院院士、新南威尔士皇家学会院士、欧洲科学院外籍院士、ACM/AAAS/IEEE Fellow。



陶教授在2021年荣获IEEE Computer Society Edward J McCluskey技术成就奖,2018年荣获IEEE ICDM研究贡献奖,2015和2020年两度荣获澳大利亚尤里卡奖,2015年荣获悉尼科技大学校长奖章以及2020年荣获悉尼大学校长杰出研究贡献奖。

毋庸置疑,人工智能释放出的巨大能量正在持续改变社会的方方面面。陶大程教授表示,随着人工智能技术在众多领域被广泛与深度应用,其也不断暴露出风险隐患,比如人工智能系统的脆弱性、系统的安全性、隐私性、公平性等等。

何为人工智能面临的“四大问题”

陶教授指出,人工智能暴露的诸多问题,大概归成四个大类:

首先,人工智能系统受干扰可能无法正确识别目标。例如监控识别系统,通过拍摄到的图像推断当前场景的信息,但如果照片的一部分被遮挡或被刻意替换,就会造成潜在的危害。

其次,在一些安全性要求更高的应用领域,比如医药翻译、机器人手术等,人工智能系统缺乏可解释性往往会带来极大的危害。他进一步解释道,一个微小的错误若得不到预防和及时控制,就可能会带来致命的事故,且可能会引发人们对于人工智能技术的信任危机。

其三,近年来人工智能技术的迅速发展依赖于大量的数据,但其中可能包含用户的隐私信息。这引起社会各界对于隐私保护问题的关注。

“今年我国正式通过了《数据安全法》和《个人信息保护法》。这些法律法规对数据的处理和使用方式设立了多个维度的规范,对人工智能系统在使用数据时的合规性提出了更高的要求。”

其四,公平性也是我们要慎重考虑的因素。比如此前在国外被报道的某网络监控与管理系统,就对黑人有系统性的歧视。公平性,不仅仅体现在种族上,还有男女、不同的家庭收入、不同的居住区域等等,人工智能系统需要公平地考虑各种因素,保证所有人都公平享受到技术带来的价值。

陶教授告诉《新基建访谈》,在这些背景之下,京东探索研究院联合中国信息通信研究院深入系统地研究了“可信人工智能”的前世今生,最终在2021年世界人工智能大会上正式面向全球发布了国内首部《可信人工智能白皮书》。

他希望借助白皮书,对可信人工智能支撑技术进行一次深入而全面的阐述。基于对可信人工智能的内涵及学术发展历程的全面回顾,京东探索研究院将可信人工智能的研究内容归纳为稳定性、可解释性、隐私保护、公平性等维度。

科技的革新需要突破局限与困难

陶教授认为,科技的革新需要突破局限与困难。经过半年多缜密的论证,京东探索研究院回归问题本源,明确立足于基础研究的突破,提出可信人工智能、超级深度学习、量子机器学习这三大研究方向,以实现颠覆性的创新。

在他看来,企业拓展人工智能技术应用过程中应注重可信人工智能敏捷迭代。随着人工智能技术与不同行业的广泛融合,其应用深度与日俱增,企业所面临的可信特质要求将不断扩充,这就对企业应具备的可信实践能力提出了更高的要求。

“一方面应研发可信人工智能检测和监测工具,以匹配业务发展需要,并针对行业应用的独特性进行升级和迭代。另一方面应积极与相关监管部门对接,构建内部和外部相协调的敏捷可信机制。”陶大程院士指出。

京东探索研究院的可信人工智能研究将聚焦于人工智能技术的稳定性、可解释性、隐私保护能力和公平性,旨在发展以人为本、向上的人工智能。“发展可信人工智能,目的是让我们能真正释放人工智能的潜力,提升全球人类的福祉。另外,在监管日趋深入的大背景下,可信赖、可解释、可保护用户隐私的人工智能研究,将成为企业未来在AI赛道差异化竞争的全新护城河。”

陶教授还特别提到,随着Transformer等新型神经网络结构的出现和发展,以自监督学习为代表的深度学习技术使得从海量多种模态数据中学习成为可能,开启了超级深度学习时代。为了打破人工智能当前面临的应用场景复杂、实际任务多样、算力分布分散、缺乏理论支撑等瓶颈,推进AI技术落地,实现产业变革,构建超级深度学习模型生态系统成为一条通往未来的路径。

此外,在陶教授看来,在后摩尔时代的今天,量子计算是目前唯一被严格理论证明具有超越经典计算机兰道尔极限的解决问题的新方法,因此,探索研究院将量子机器学习确定为第三个重要的研究方向。近日,他带领其量子计算研究团队主要成员杜宇轩、钱扬提出全球首个以经典云平台为依托、量子计算设备为终端的量子并行处理框架QUDIO(quantum distributed optimization scheme),将可实现充分调度现有量子计算资源去求解超越经典计算的大规模任务。

未来是数字和物理深度融合的世界

那么,技术发展与社会对技术的期望如何才能达到一个平衡?

陶教授说:“社会的期望其实能引导技术发挥其正面价值、减轻或消除其负面因素,让技术发展得更健康。”

比如,科技企业处于人工智能技术应用的第一线、责任重大,因此可以通过设立相关人工智能伦理监管部门来加强自我约束,充分提高开发者的风险意识及技术本身的抗风险能力,相信通过一系列监管措施的正面引导,人工智能最终能实现可信,回应社会对技术的期望,真正造福人类的未来。

谈及元宇宙话题,陶教授表示元宇宙是一个技术综合体,其中包含了很多东西,比如:3D建模、AR、VR、人工智能、区块链等等,对于元宇宙来说是技术架构的基本组成。

“如果能有效实现可信人工智能和超级智能学习,那么对于元宇宙未来的落地会有很大的帮助”,陶教授认为,未来一定是数字世界和物理世界的深度融合,物理世界和数字世界不是独立的存在,而是深度的融合。

不为细碎的苟且遮蔽,不为当下的功利左右

面向未来,他提到对于年轻的AI公司和科研人员来说,建立起这样一种“长期主义”的意识能帮助他们不为眼前的局限所困,不为细碎的苟且遮蔽,不为当下的功利左右,成为有超越感、敬畏感和使命感的组织或个体。

陶教授认为,追求科技的长期主义体现在“探索未来”和“科技向上”这两点。探索未来意味着科技研发人员需要怀揣梦想、保持好奇,对未知的技术和理念满怀向往,在前沿领域实现突破,创造真正有意义、有价值的突破性成果。我们要让自己的思考领先于即将到来的变化,只有这样,我们才有机会在造成最大震荡的革新中还能够向不变的目标前进,并保持平稳与初心。

“科技向上意味着我们的技术研究应秉持社会责任感,让科技变得有恒久的价值和人性的温度。从某种程度上说,AI是人性的一种映射,而人类构造AI的过程,实际上也是反思自己与类人智能体之间关系的一次机会。通过构建AI,我们正在重新塑造人类社会本身。”

他最后说到,这些东西看似无关利益,却是我们研究可信AI的目的和意义所在。

相关推荐
热点推荐
敢动台湾?一觉醒来,中国国防部给美国划红线震动全球,语气强硬

敢动台湾?一觉醒来,中国国防部给美国划红线震动全球,语气强硬

海拔新观察
2021-10-17 09:44:30
中国第一央企是谁?日赚4.3亿元,第十八代掌门人还是长津湖将领

中国第一央企是谁?日赚4.3亿元,第十八代掌门人还是长津湖将领

华商韬略
2021-10-12 15:57:46
楚青发现粟裕经常头疼,却查不出原因,粟裕死后骨灰里发现真相

楚青发现粟裕经常头疼,却查不出原因,粟裕死后骨灰里发现真相

李砍柴
2021-10-13 17:11:22
我这个月薪,属于什么水平?

我这个月薪,属于什么水平?

职场叨叨
2021-10-17 23:15:33
台积电失算了?比亚迪王传福怒怼张忠谋,为什么?凭什么?

台积电失算了?比亚迪王传福怒怼张忠谋,为什么?凭什么?

西门求是
2021-10-17 21:50:38
又一个千亿龙头房企倒下?50多个烂尾楼盘,460亿债务压身

又一个千亿龙头房企倒下?50多个烂尾楼盘,460亿债务压身

唐铭讲娱乐
2021-10-16 15:28:09
女骗子假装得道高僧,和多名和尚结婚,在寺庙披僧袍时还穿着黑丝

女骗子假装得道高僧,和多名和尚结婚,在寺庙披僧袍时还穿着黑丝

社会民生资讯播报
2021-10-18 00:53:10
何鸿燊娶了四个老婆,法律不管吗?赌王:这是清朝给的特权

何鸿燊娶了四个老婆,法律不管吗?赌王:这是清朝给的特权

丹青券
2021-10-13 12:09:41
三季度,我国GDP接近4.5万亿美元!预计四季度将接近5万亿美元

三季度,我国GDP接近4.5万亿美元!预计四季度将接近5万亿美元

今世说
2021-10-18 15:45:40
老员工带一群徒弟,自己却被开除了,走后留只4个字,老板懵了

老员工带一群徒弟,自己却被开除了,走后留只4个字,老板懵了

丸子讲故事
2021-10-16 14:07:47
没钱请大牌,这个综艺节目就请这些素人女嘉宾,收视率却意外飙升

没钱请大牌,这个综艺节目就请这些素人女嘉宾,收视率却意外飙升

昌霖娱乐
2021-10-17 18:40:10
二弟出轨女影星!旺达暴怒离婚,曾一日12次

二弟出轨女影星!旺达暴怒离婚,曾一日12次

懂英超
2021-10-17 22:05:57
妻子被性侵8小时,丈夫亲眼目睹,残忍细节曝光:人间真的有魔鬼

妻子被性侵8小时,丈夫亲眼目睹,残忍细节曝光:人间真的有魔鬼

猫小姐Coco
2021-10-18 08:41:19
特朗普掉下了悔恨的泪

特朗普掉下了悔恨的泪

未来就来
2021-10-18 04:07:16
高层定调,第三套恐有惩罚税率

高层定调,第三套恐有惩罚税率

广州淘房志
2021-10-17 18:05:35
韩国足球炸裂1夜!“新孙兴慜”横空出世,KO莱万哈兰德获德甲MVP

韩国足球炸裂1夜!“新孙兴慜”横空出世,KO莱万哈兰德获德甲MVP

黑色柳丁
2021-10-18 07:27:03
思念儿子是假,笑得开心才是真。频繁奔波各地,体力超过年轻人

思念儿子是假,笑得开心才是真。频繁奔波各地,体力超过年轻人

小市井大江湖
2021-10-18 12:21:33
好家伙!《嘉南传》刚开播就被一星刷屏,观众的差评理由出奇一致

好家伙!《嘉南传》刚开播就被一星刷屏,观众的差评理由出奇一致

电影侦探社
2021-10-18 14:50:29
王亚平天女散花的发型,火遍全网,那么出差太空半年,如何洗头呢

王亚平天女散花的发型,火遍全网,那么出差太空半年,如何洗头呢

迷糊蛇
2021-10-17 07:30:21
残酷的大自然:母猴被狮子咬在嘴里,小猴子则紧紧抱着妈妈的尸体

残酷的大自然:母猴被狮子咬在嘴里,小猴子则紧紧抱着妈妈的尸体

唐宁街上的猫
2021-10-16 11:38:04
2021-10-18 18:18:44

科技要闻

英特尔CEO:不怪苹果翻脸,要靠实力拿回大单

头条要闻

英间谍曾秘密煽动印尼反共排华大屠杀 解密文件曝光

头条要闻

英间谍曾秘密煽动印尼反共排华大屠杀 解密文件曝光

体育要闻

北京冬奥会火种在希腊成功点燃

娱乐要闻

黄轩:喝醉了,我才敢讲出这些……

财经要闻

汽车要闻

搭汉兰达同款混动系统 试全新传祺GS8燃油版

态度原创

健康
教育
游戏
房产
家居

今冬明春新冠疫情与流感叠加风险仍存

教育要闻

985硕士英语老师失业后开摩的:我只是行走在低谷

《艾尔登法环》实机遭泄露!腾讯天美正在开发3A游戏?

房产要闻

贝壳找房的三重挑战

家居要闻

北京大爷把四合院装成小田园 家里收藏上亿青花瓷

×