欧盟人工智能伦理准则发布！是“紧箍咒”还是“加速器”？| 中国汽车报

人工智能会比人更聪明吗？自动驾驶会把人带向何方？还从没有一项技术像人工智能这样引发伦理担忧，甚至是莫名的恐惧。4月8日，欧盟委员会发布人工智能伦理准则，提出了相关条件和规范准则。

“在人工智能，以及大数据、5G、汽车新四化扑面而来的时代，要让先进的技术更好地为人们服务，作出准则进行规范是很有必要的。这无论是对于以人工智能为基础的汽车自动驾驶等技术的研发还是产业的发展，应该说都是一颗‘定心丸’。”4月11日，全国乘用车市场信息联席会秘书长崔东树接受《中国汽车报》记者采访表达了这样的观点。他认为，有了准则就少了偏差和困扰，准则也驱动着对汽车行业资本、市场、企业相关认知及行为的再平衡。

自动驾驶系统被认为是汽车智能化发展的最高目标，它集人工智能以及自动控制技术、信息与通信技术、现代传感技术等于一体，在减少交通事故、缓解交通拥堵、降低能耗、保护环境等方面被寄予厚望。正是看中这些优势，世界很多国家特别是发达国家都在积极制定自动驾驶技术路线图，大力推动自动驾驶汽车的发展。在业界，自动驾驶被认为是汽车产业转型升级的重要支点，也是当今众多企业的竞争热点。

“符合伦理标准的人工智能将带来双赢，可以成为欧洲的竞争优势。”欧委会副主席兼欧盟单一数字市场战略副总裁安德鲁斯·安西普所言，道出了欧盟发布人工智能伦理准则的目的。

据介绍，欧盟发布的人工智能伦理准则，列出了“可信赖人工智能”的7个关键条件，即人的能动性和监督能力、安全性、隐私数据管理、透明度、包容性、社会福祉、问责机制，以确保人工智能足够安全可靠。欧盟将“人工智能”定义为“显示智能行为的系统”，它可以分析环境，并行使一定的自主权来执行任务。

其中，“可信赖的人工智能”有两个必要的组成部分：一是应尊重基本人权、规章制度、核心原则及价值观；二是应在技术上安全可靠，避免因技术不足而造成无意的伤害。举例来说，如果人工智能之于自动驾驶汽车领域，欧盟的准则目标是约束不会做出对消费者有害或潜在有害的技术系统设计。

“欧盟发布的人工智能伦理准则强调‘可信赖的人工智能’，必然会对自动驾驶在内的一系列人工智能汽车技术的研发与应用产生重要影响。”一直关注这一领域的清华大学公共管理学院教授梁正在接受《中国汽车报》记者采访时如是表示。

对于以人工智能为支撑的自动驾驶，近年来技术进化迅速，发展势头迅猛，令人瞩目，有关的法律法规制度建设更是引发高度关注。

汽车驾驶领域通行的国际公约是《维也纳道路交通公约》(以下简称《公约》)，联合国欧洲经济委员会于2016年3月通过修正案修改了《公约》。新的《公约》规定，在自动驾驶系统全面符合联合国车辆管理条例以及驾驶员可以手动选择关闭自动驾驶系统的前提下，驾驶员可以将车辆的驾驶职责交给自动驾驶系统。

在欧美各国，也是持续通过立法，一方面确立自动驾驶的法律地位，一方面对相关工作进行规范，从而消除各界对这类新技术的担忧。

1

2017年，德国联邦议会颁布了《道路交通法第八修正案》。该法案明确允许“按规定使用”汽车自动驾驶功能，明确了使用该功能的权利义务以及驾驶数据的采集、存储、使用及删除规则，从而建立了较为完整的权责制度，在一定程度上为智能汽车在德国的发展提供了保障和规范，清除了法律上的障碍。

2

在美国，目前已有十多个州（特区）颁布生效了数十条（部）针对自动驾驶汽车的法规。

3

英国、法国、加拿大、澳大利亚、芬兰、瑞典等国家也出于借智能汽车助推经济社会发展的目的，技术竞争的纷纷在立法层面上展开探索，颁布了多部关于自动驾驶的法律法规。

“目前的自动驾驶技术、特别是核心算法，主要是大量数据训练的结果，有很大的局限性，容易受到干扰，其安全性、可解释性、可信赖度都存在问题。如果是人工智能及自动驾驶技术相关的原则上升为法律法规进行规范，则必将对这一领域的发展方向、自动驾驶技术的商业化步伐产生重大影响。”梁正认为。

国外的人工智能及自动驾驶技术进步及制度建设几近同步，发展迅速，国内的相关情况同样引起了高度关注。

“人工智能是自动驾驶实现的重要技术支撑，这已是业内共识。国外的立法制度建设，也倒逼我国的相关工作提速。”崔东树认为，首先，人工智能是引领新一轮科技革命和产业变革的战略性技术，一些国家已将人工智能上升为国家重大发展战略，需要引起足够重视。其次，应当看到人工智能技术的应用具有不确定性，会带来法律关系、道德伦理、社会治理等方面的新挑战。因此，制定规则制度以及法律法规，明确发展方向，划出“红线”，助推这个产业沿着正确轨道健康发展是十分必要的。再者，目前我国一些企业研发的自动驾驶车辆已经进入路测阶段，从北京、上海、重庆等地的路测到高速公路测试都在进行中，由此可见，国内的相关规范和制度制定工作显得更加迫切。

记者在采访中了解到，全国人大常委会已将一些与人工智能密切相关的立法项目，如数字安全法、个人信息保护法和修改科学技术进步法等，列入本届人大的立法规划。随着这方面工作的推进，我国的自动驾驶将迎来更好的发展环境。“把人工智能方面立法列入抓紧研究项目，围绕相关法律问题进行深入的调查论证，努力使人工智能创新发展，努力为人工智能的创新发展提供有力的法治保障。”今年3月全国两会期间，十三届全国人大二次会议新闻发言人张业遂公开表示。

在业界内外，人工智能、5G环境下的自动驾驶技术发展备受关注。国内车企、互联网企业等纷纷加大技术研发力度。然而，自动驾驶要想实现“落地”也面临很多问题，如立法、法规及标准等方面的缺失及不完备，导致创新者在技术发展过程中出现了“不敢走”、“不知该如何走”等情况。今年全国两会期间，全国人大代表马化腾提交的《关于加强科技伦理建设，践行科技向善理念的建议》中提出，建议在国家层面针对人工智能、自动驾驶等相关新技术制定伦理准则，对新技术应用进行引导和规范。

“自动驾驶立法非常必要，因为无人驾驶技术被社会公众接受和实现商用的首要前提就是要保证人身安全。”在梁正看来，制度建设意义重大，可适当参考借鉴国外的做法和经验加快进行。

1

在安全方面，美国交通部出台的关于自动驾驶的六条准则中第一条就是要保证安全。

2

立法同样应坚持“审慎包容”的原则，美国交通部针对自动驾驶六条准则中的第二条就是“技术中立”，即不干预技术的选择，将其交给市场。

3

立法及制度建设应当是划出“底线”，规定什么不可以做，剩下的交给市场与社会主体去自由选择。

“汽车自动驾驶作为人工智能发展的一个重要标志和具体应用，就是要在技术与人本身之间、在机器与人类社会之间进行再平衡，寻找和谐相处的结合点，找到和谐出行的最佳路径。制度建设就是掌控和调节这些关系的最根本的手段，所以建立规则、完善制度都是极为重要、十分必要而又亟待解决的事情。”崔东树认为，这或许是欧盟发布人工智能伦理准则带给我们的最大启示。

文：赵建国 编辑：黄霞 版式：刘芯辰

爆料热线：

010-56002742；qcb010@163.com