ChatGPT热潮背后，马上消费打造金融行业可信人工智能

（原标题：ChatGPT热潮背后，马上消费打造金融行业可信人工智能）

可信AI引发全球关注

       当前迅速爆火的ChatGPT似乎让人们看到，人工智能距离进入每个人的日常生活已近在咫尺。但不可忽视的是，人工智能的大规模应用同时隐含着巨大的风险。ChatGPT在其月活用户数快速突破一亿之时，人们对其数据安全问题、知识产权保护问题、虚假信息传播问题的疑虑也被快速放大。在人工智能快速发展的今天，亟需保障其对人类的“可信赖”。

       在全球范围来看，可信AI已引起高度重视。” 美国政府也已公布《促进政府使用可信人工智能》的行政命令，指导联邦机构使用人工智能，促进公众更加信任政府使用的人工智能技术。另外，欧盟发布的《人工智能白皮书》提出人工智能“可信生态系统”，旨在加强对人工智能的强制监管。可见，随着人工智能的产业化发展，可信人工智能已成为业界焦点。

金融业可信AI的特征

       金融业人工智能的可信特征，经过行业的不断研究与沉淀，已逐渐在公平性、隐私保护、安全性、透明性、责任可追溯等方面达成共识。金融业可信人工智能要承接科技伦理的要求，将以人为本作为其根本。不同的是，科技伦理从宏观层面做出指引，而可信人工智能则深入到金融机构内部对人工智能的管理、研发、运营等环节，提升金融消费者和整个行业对人工智能的信任程度。尽管不同的机构或个人可能对可信特征有不同侧重，但从行业维度来看，金融业已开始围绕这些可信特征进行理论研究和技术创新，解决金融业人工智能的可信问题。

AI可信问题带来金融风险

       人工智能在金融领域应用的广度和深度在不断拓展，已成为金融的重要支撑。人工智能的可信问题已逐渐成为金融风险的重要来源，体现在以下一些方面。

       公平性缺失导致业务决策偏见。人工智能决策结果会受到训练数据的影响，如果训练数据中存在偏见歧视，算法会固化这种歧视，导致依托人工智能算法生成的决策形成偏见。例如在营销场景下，某些智能推荐算法存在的偏见，可导致部分群体不能公平地获得金融服务机会。

       数据滥用导致隐私泄露。当前金融业务活动中会涉及大量个人信息，比如利用个人信息构建风控模型、在身份认证中采集个人生物特征，这些活动使得个人隐私数据泄露和滥用的可能性大增，加重了人们对金融安全风险的担忧。

       算法模型安全性低导致业务风险。以深度学习为代表的人工智能技术存在脆弱和易受攻击的缺点，使得依靠人工智能支撑的金融业务难以得到足够的信任。例如已在金融领域大量使用的人脸识别系统，受到众多利用3D面具和合成照片等手段实施的欺骗攻击，且部分攻击可突破系统防御，给金融业务安全带来了巨大隐患。

       黑箱特性导致业务的不透明。人工智能采用的深度神经网络具有高度复杂性和不确定性，很多情况下对人类来说是一个黑箱，人类无法直观地了解人工智能的决策过程。这种特性导致科技的不透明性增加，考虑金融业务较高的安全合规要求，我们对于人工智能与金融业的深度融合产生了疑虑。

       责任主体难以界定。人工智能的决策受多种因素影响，若利用人工智能系统做出的金融决策和判断出现侵权、违法行为，从现行法律上看，难以将人工智能作为责任主体。人工智能的行为到底是由所有方还是研发方担责，责任主体难以界定。

       因此，为降低金融风险，须进行人工智能的可信治理，通过建立可信赖人工智能，打造消费者满意和信任的金融服务。

马上消费如何打造可信AI

       马上消费致力于将可信人工智能理念贯穿人工智能系统全生命周期，在设计、研发、应用人工智能系统的过程中，将可信的理念根植于关键环节。我们针对上述人工智能可信问题带来的金融风险，综合利用技术手段、管理方法保障系统可信。

       公平性方面，马上消费重点关注人工智能训练数据集，构建完整异构数据，将数据歧视和偏见最小化。并研究公平决策量化算法对数据集进行评估，减轻决策偏差和潜在歧视。

       隐私泄露防范方面，通过建立数据治理体系来避免数据的滥用，并使用隐私计算技术训练人工智能模型。马上消费已建立多方安全计算平台，可在用户数据不出库的条件下进行人工智能模型的训练，保障隐私数据安全。

       为保障算法模型的安全性，马上消费着力提升人工智能模型防御对抗攻击与中毒攻击的能力。对抗攻击是通过针对性设计特定的输入样本使得人工智能系统决策出错，中毒攻击则是通过向训练数据中注入特定数据使得训练得到的模型推理判断出现失真。为防御这些攻击，马上消费研究采用异常数据检测方法来检出并清除训练数据中的恶意数据，减轻中毒攻击带来的干扰，并通过建立对抗样本进行针对性训练来抵抗对抗攻击。

       为保障人工智能系统透明性，重点研究人工智能的复现能力。目前业界已有一些研究方向，如通过建立可视化机制尝试评估和解释模型的中间状态，或通过影响函数分析训练数据对于人工智能模型的影响。马上消费探索建立可解释模型，模型通过对复杂的黑盒模型进行局部近似来研究黑盒模型的可解释性。

       另外，马上消费致力于树立可信的企业价值理念。发展可信人工智能不仅是建设可信的人工智能系统，更要把可信理念融入金融机构的血脉，树立以消费者为中心的价值观，为客户提供可靠、透明、包容的科技服务。我们在鼓励创新和实践可信人工智能的同时，落实可信人工智能管理制度，明确责任部门和人员、工作方法和流程，打造更加可信的金融机构。

       可信人工智能已经加速在金融行业的落地。虽然可信人工智能的特征包括了很多方面，但随着相关理论研究与技术创新的不断深入，可信理念将更深层次地与科技结合，确保金融业健康发展。