国际跟踪㉚人工智能与机器学习：监管机制逐步完善

编者按：2022年7月，毕马威发布《人工智能与机器学习：监管机制逐步完善》报告（以下简称《报告》）。《报告》认为，当前人工智能和机器学习技术在金融行业的应用范围快速扩大、影响程度迅速加深，但也存在算法黑箱和数据滥用等问题，需要监管机构通过发布指引或政策法规等方式加以应对。《报告》列举了部分国家和国际组织对人工智能和机器学习技术的治理措施。现对《报告》主要内容进行摘编，供参考。

一、人工智能在金融服务中的应用

（一）提高金融服务效率。运用人工智能实现流程自动化可以提高员工的生产力。同时，将人工智能应用于聊天机器人或虚拟助手等工具，可帮助客户在选择金融产品或服务时做出更明智的决策。

（二）促进普惠金融发展。基于人工智能的应用可以促进金融服务更加普惠。例如，信贷评估系统通过分析海量数据，可以为更多消费者补齐“信用足迹”。

（三）有效打击金融犯罪。人工智能通过金融建模对大规模数据进行概率预测和场景分析，能够提高对金融犯罪和金融欺诈的风险监控能力。

二、关于人工智能应用风险管理的监管指引

（一）提高数据质量。欧洲保险和职业养老金管理局表示，应将《通用数据保护条例》的有关要求作为人工智能系统全生命周期数据治理的基础，金融机构应确保人工智能系统中使用的数据完整、准确。国际证监会组织指出，监管机构应要求金融机构采取适当的控制措施，确保人工智能和机器学习技术所依赖的数据足够全面，以防出现人工智能算法歧视。

（二）控制模型风险。一是检测模型的准确性。德国联邦金融监管局提出，人工智能模型在投入运行之前都应由未参与建模过程的独立职能部门或个人进行验证和审查。新加坡金融管理局在关于人工智能的使用原则中明确，应定期审查和验证人工智能决策的准确性，确保决策模型按预期运行。二是提高人工智能模型的透明度和可解释性。欧洲保险和职业养老金管理局建议，应确保消费者能够意识到他们正在与人工智能系统进行交互，并且理解人工智能系统的局限性。新加坡金融管理局规定，应向用户说明哪些数据用于做出人工智能决策以及数据如何影响决策。三是加强科技伦理治理。新加坡金融管理局强调道德因素在决策模型中的重要性，要求人工智能决策应至少与人类决策遵循相同的道德标准。欧洲保险和职业养老金管理局建议保险公司应在人工智能系统的全生命周期应用中加强人工监督。

（三）防范算法歧视。欧洲保险和职业养老金管理局提出了金融机构人工智能应用公平性原则。金融机构需要在数据收集、模型设计和测试期间采取措施，防止人工智能模型产生偏见和歧视。

（四）建立治理框架。国际证监会组织强调建立问责制，金融机构应指定高级管理人员负责监督人工智能和机器学习的开发、测试、部署和监控。英格兰银行与英国金融行为监管局联合成立的人工智能公私论坛建议金融机构建立专业委员会来监督人工智能的开发和使用。

三、关于人工智能应用风险的监管法规

（一）欧盟拟制定人工智能法案。欧盟委员会已提议制定人工智能法案，要求企业加强人工智能治理，以确保人工智能系统的安全性，保护消费者合法权益。人工智能法案预计将于2023年初通过，于2025年生效。

（二）英国将明确人工智能监管立场。英国政府发布的《国家人工智能战略》指出，英国政府的治理和监管制度需要跟上人工智能快速变化的形势。迄今为止，英国对人工智能采取了强有力的监管措施。英国人工智能办公室将发布白皮书，阐述英国政府在管理和规范人工智能方面的立场，提出解决人工智能应用潜在风险和危害的建议。

《人工智能与机器学习：监管机制逐步完善》下载地址: https://pan.baidu.com/s/1wgkO_YCxKkkuQXuRy_8eGw 密码: mqal

本文来源：发展研究部
投稿邮箱：News@bfia.org.cn