数安法个保法如何影响AI？专家：隐私保护和AI训练不冲突

数据安全法、个人信息保护法的出台，对人工智能行业提出了什么要求？人工智能企业又如何将法规更好地落地实施？人工智能治理成为全球共识，国际上是否有经验可借鉴？9月27日，在乌镇举办的世界互联网大会“人工智能：打造智能经济新优势”主题论坛上，多位学界、产业界专家对人工智能的治理问题进行了探讨。

中国科学院自动化研究所研究员曾毅认为，不同国家碰到的伦理问题、社会风险的问题都是相似的，应相互借鉴经验。他还提到，法律法规落地的时候，会面临很多痛点，法律法规对人工智能的技术创新提出了非常高的要求。推想医疗创始人兼董事长陈宽认为，数据隐私保护和人工智能本身对于数据的需求，没有本质上的冲突，是相对兼容的。

“全球碰到的伦理问题、社会风险问题都相似”

欧盟驻华使团通信网络内容与技术处处长白家文表示，欧盟希望确保欧洲在人工智能领域保持领先地位，这是欧盟全球经济竞争力的关键。因此，欧盟正在各领域促进人工智能的开发与利用，但与此同时，欧盟也希望构建对人工智能的信任，解决技术应用中的一些风险。

他介绍，今年4月，欧盟委员会提出一项法案，倡导为人工智能建立一个适当、灵活且经得起未来检验的法律框架。这一法案列出了一系列欧盟的技术供应商、运营商和使用者所必须遵守的具体要求。例如，法案对执法机构在公共场合使用远程面部识别进行了限制。此外，法案还完全禁止了在某些领域使用人工智能，例如政府利用人工智能进行社会信用评估。

南都·AI前哨站曾对欧盟人工智能法案做过介绍《欧盟拟发布全球首部人工智能法规，违规或被罚年营业额6%》。欧盟人工智能法案是全球人工智能领域的首次正式立法，这部法案将人工智能按照风险等级分为最小风险、有限风险、高风险和不可接受的风险，分别设置了明确的监管措施。法规写道：“该法规旨在将人工智能相关的风险和带来的问题降到最低，但又不过度约束和阻碍人工智能技术发展。”

关于人工智能治理的全球实践，曾毅认为，国际上发布的100多项人工智能的伦理原则，不管是来自企业，还是来自政府机构、政府间组织，其实共性很大。尽管不同国家也有差异，但这种差异是互补的，比如对于透明、可解释性等概念，不同的国家有不同的解释，这实际上更好地完善了对人工智能伦理和治理的理解。

在他看来，人工智能的治理与技术不同，这个领域没有全球竞争，更多的应该是经验分享。近几年，一个好的趋势是，人工智能治理慢慢形成了全球共识——联合国教科文组织、世界卫生组织在今年分别发布了人工智能全球伦理规划和健康领域的人工智能伦理规范。

不过，曾毅也指出，在AI的伦理和治理问题上，很多国家出现了一个问题——没有从别的国家的探索当中学到经验，而是在强调自己的文化与别国有多么不同。“实际上，我们都是地球村的人们，我们碰到的伦理问题、社会风险的问题都如此相似。所以未来一个非常重要的事情是，如果共识形成了，那么在进行技术落地的时候，我们如何去互相借鉴，我觉得非常关键。”

“法律法规的落地面临技术创新痛点”

今年，我国相继出台了数据保护法和个人信息保护法。中国信息通信研究院院长余晓辉认为，目前这一轮人工智能主要是数据驱动的，所以整个数据的安全，包括隐私保护，就变得非常重要。在我国，数据保护法和个人信息保护法的出台是标志性事件；从全球来看，人工智能相关的法律和标准其实都在制定过程中，引起全球高度重视。

相应的法律法规出台后，应当如何去落地实施？

曾毅认为，法律法规落地的时候，会面临很多痛点。法律法规和伦理规范对于人工智能的技术创新要求非常高。他举了人脸识别的例子。“大家觉得人脸识别很多场景是比较敏感的，去禁用它。但是你会发现有很多的企业在尝试步态识别、指纹识别、远距离虹膜识别，实际上它存在的伦理风险、安全风险跟人脸识别没有什么太大的差别，”他说，“从可信的人工智能的角度，全面地防范生物特征识别可能存在的风险非常关键。”

他还举了另一个法规落地的技术痛点——数据删除。个人信息保护法、民法典、新一代人工智能伦理规范中都提到，用户可以选择删除自己的数据。他表示，在数据库当中删除数据非常容易，但人工智能训练过的模型中要想把数据特征去掉，除非重新训练模型，否则是做不到的。但法律法规实际上对这个方面提出了要求，这就逼迫产业、学术界联手，尽快地解决法律对于技术创新提出的痛点和难点问题。

陈宽则认为，数据隐私保护和人工智能本身对于数据的需求，其实没有本质上的冲突。因为人工智能模型的训练，很大程度上最有价值的是来自于一般性的规律，个人隐私对训练环节反而没有太大价值。

“人工智能行业和监管的大方向是兼容的，大的原则没有问题，但细则怎么落地、怎么实践，我认为这是后续的关键。”他说。

采写：南都记者李娅宁