AI风险事件频发，全球风控出现大变局

短期以AI对抗AI，需要企业自觉落实相关防御措施，长期则需要监管和标准化的落地。

文｜周路平 周享玥

编｜游勇

10月29日凌晨，美国发生了一起令人啼笑皆非的事情。英伟达在这一天举办了GPU技术大会，官方直播只有2万人观看，但与此同时，另外一个以黄仁勋形象伪造的假直播也在同步进行，而最高观看人数超过了10万人。

生成式AI的大爆发，给千行百业带来巨大想象空间的同时，利用AI技术进行深度伪造的风险在陡然增加。尤其是Sora2等图生视频大模型发布之后，以假乱真的效果进一步加剧了外界的担忧

攻防之间，一场深刻的“全球风控大变局”已悄然降临。

01

AIGC双刃剑，全球风控局势在加剧

2024年初，香港公布了一起有史以来金额最高的AI诈骗案。某跨国企业香港分公司财务人员遭“AI围猎”，诈骗团伙通过伪造总部高管邮件、音视频并组织一场逼真的多人视频会议，诱使其15次转账，损失金额高达2亿港元。

无独有偶，去年10月印尼新任总统宣誓就职后，其头像频遭盗用制作虚假视频，至少有22个虚假账号冒充其名义，骗取民众“行政费”。

这是AI时代全球风险变化的典型缩影。AIGC犹如一把双刃剑，带来AI红利的同时正加剧全球风控风险。而且，相比于以往的攻击手段，生成式AI带来的安全风险呈现多个变化趋势。

技术上，AI大幅拉低了安全攻击的门槛与成本。过去，文件篡改、证件伪造、电话诈骗等攻击多依赖人工操作，相对低频且成本较高。现在，“AI黑客”利用生成式AI工具，可轻易制作高度逼真的人脸图像、钓鱼邮件、虚假网站、恶意脚本。

技术杠杆加持下，攻击类型大增，比如深度伪造已从曾经仅由专业团队掌握变为非专业人士也能通过AI快速合成换脸视频，成为增长最快的新型风险之一。

蚂蚁数科国际业务首席技术官姚伟斌告诉数智前线，2023年以前，DeepFake等AIGC攻击比例不足千分之一，生成式AI普及后，攻击次数指数级上升，“2024年、2025年攻击比例已超过5%，甚至接近10%。”

在空间层面，AI风险已突破地理边界，影响范围更广，治理难度骤增。无论AI欺诈、电信诈骗均已跨国蔓延，但各国仍以属地方式治理，导致追责、认定、追款和执法协同困难重重。

在时间维度上，时效性也变得愈发关键。如今算法两周一迭代已算迅速，但攻击者的迭代效率却以天为单位，远超防御节奏。有数据显示，2024年，AI辅助攻击每24小时的变异率已达93%。

在时间、空间和技术等多个维度出现变化的背景下，由深度伪造引发的重大AI风险事件，已经在全球范围内带来真金白银的损失。

德勤报告预测，与深度伪造相关的网络攻击损失将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率32%，银行和金融服务业将成主要目标。

新的风险形势下，AI风控亟需变革。业界普遍认为，以前基于规则引擎叠加的“人与人对抗”的安全风控方式，已难以适应AI时代的风控需要，亟需新的风控解决方案。

02

单点防御转向全链路服务

过去一年，香港金管局先后公布了两批生成式AI的沙盒名单，希望通过行业的共同努力，探索具体场景的深度研发与测试验证。而入选的方案和用例从第一批的十几个，增加到了27个，集中在金融行业的AI风控和治理。

相比于数量的增加，业内看到的变化是，在探索用AI去对抗AI的同时，大家也在逐渐意识到，安全风控已经是一个社会工程问题，不能仅仅靠单点的技术来应对。

随着攻击门槛的降低，攻击者的迭代效率已经在按天进化，传统基于规则引擎的风控系统早已力不从心。姚伟斌认为，今天单点的算法已经不够用，要从防注入的系统层面再到全链路的服务进行打通。

面对全新的风控形势，蚂蚁数科提出了由点到面的防控思路：一是要做到端到端的防控，覆盖多层级，而不仅仅依赖于单点算法。比如在攻击发生之前，对App层面进行加固，检测是否有被越权或者入侵的迹象；在被攻击时，检测算法要开始生效，鉴别攻击行为。

二是将产品和服务相结合。除了提供ZOLOZ等标准化的产品，蚂蚁数科也在给企业提供安全专家服务。安全专家这个角色会根据后台每天的攻击信息进行分析，包括是否有地域或者IP的聚集性，是否有其他相似的特征，然后设定特定的防御策略。这是蚂蚁数科今年在做的一个比较新的东西，“这意味着，从原来单纯的一个产品进化到一个安全专家服务的概念。”

三是提升全行业的共同防御能力。比如蚂蚁数科连续两年举办了针对Deepfake检测算法的比赛，目的就是帮助行业和学术圈提升整体的防御能力。

另外，蚂蚁数科也建设了天玑实验室，通过红蓝对抗的方式，去探索前沿生物识别检测与对抗攻击，并自研一套自动化生物识别检测认证体系，推动整个行业的身份识别安全水位升级。“现在有这种实验室能力或者工具的并不多。”姚伟斌告诉数智前线。

如今这种全链路的风控体系正在取得成效。在东南亚一些国家，DeepFake的攻击浓度大概在3%-5%，而蚂蚁数科旗下的安全品牌ZOLOZ能把识别准确率做到99.9%。

“短期以AI对抗AI，需要企业自觉落实相关防御措施，长期则需要监管和标准化的落地。”姚伟斌说。目前，业内开始用AI去对抗AI，拿一些坏的样本对AI进行训练，让它变得更聪明，比如用数字人对AI进行训练。

但这种做法有其局限性。安全风险的防控经常面临“道高一尺、魔高一丈”的窘境，算法依赖于数据去训练，但大多数情况下，都是出现了攻击行为之后，再把这些数据喂给算法，补上漏洞，常常是跟在攻击者后面疲于奔命。

“如果互联网的内容10%是AI的，我们还能通过算法去防一下；但假如大部分都是AI生成的，背后会带来非常巨大的计算成本。”姚伟斌认为，这需要企业的自觉，给AI生成的内容打上隐性和显性的标识。

而从长期来看，要彻底改变内容生成可信的问题，比如每一个AI生成工具要有一个Key，就好比每一个网页都对应一个http网址一样，让每个内容背后都有可信的数据生成链。

另外，AI风控也依赖全球在监管层面的协同。今年3月，国家网信办等四部门印发《人工智能生成合成内容标识办法》，要求AI生成的内容必须添加标识。香港金管局（HKMA）、新加坡MAS、马来西亚BNM等也已明确设定误拦截率、误通过率等安全指标，倒逼企业加速防控。

不过，各国的治理模式差异显著，例如欧盟以伦理先行为导向的“硬法治”模式，通过《人工智能法案》对高风险AI系统实施严格监管；而美国则偏向以技术先行为导向的“软法治”模式，更侧重行业自律和自愿承诺。这些困境凸显了单一国家或区域性治理模式的局限性，全球协同治理的紧迫性日益凸显。

03

中国企业如何吃到海外风控的蛋糕？

AI风控作为全球性话题，也催生了庞大的治理需求。其中金融、Web3、游戏和政企行业在AI风控的需求尤为旺盛，其原因不难理解，AI带来的风险漏洞会给这些客户带来真金白银的损失。

而海内外不少针对AI风控的项目正在受到资本的热情追捧。比如聚焦于AI合规的独角兽企业Vanta不仅得到了众多资本的青睐，其估值更是已经飙升到40多亿美元；而专注在AI模型安全领域的初创公司Irregular在今年9月完成了8000万美元融资，估值达到了4.5亿美元。

这些企业尽管在AI风控细分赛道耕耘或者局限于本土区域，但资本层面依然给予了非常积极的反馈。

这个赛道也在吸引中国企业走出去。蚂蚁数科自2017年就开始探索数字技术出海，将蚂蚁集团在中国庞大市场中磨练的最佳实践与技术能力以产品的形式出海，服务于海外客户的数字化转型

相比于很多创业型企业，蚂蚁数科在海外经营已经具备了诸多优势。一是蚂蚁数科的产品和技术经过了国内市场的打磨。众所周知，中国的移动支付发达，数智化进程迅速，每一个场景和产品都经历过高压环境的测试和打磨，往往在海外市场拥有很强的竞争力。

其次是阿里和蚂蚁的品牌背书效应，在国际市场尤其是东南亚的知名度很高，给蚂蚁数科在这些市场的耕耘带来诸多便利。而且，阿里和蚂蚁集团在东南亚和南亚等国投资了大量的钱包产品，比如菲律宾的GCash、印尼的DANA、马来西亚的Touch’n Go、泰国的Truemoney、孟加拉的bKash。这些本地支付宝们成了蚂蚁数科进军海外市场的肥沃土壤。

如今，蚂蚁数科旗下的安全科技商业化品牌ZOLOZ可实现用户全自助、无人工干预完成“在线身份认证”，实人认证准确率达到 99.9%，将原本至少一周以上的注册时间，缩短至3分钟，提升了客户业务效率。2023年，Forrester发布亚太区反欺诈科技服务商研究报告，ZOLOZ位列亚太区第一

比如ZOLOZ支持了印尼“待就业卡”项目，该项目的一个风险点在于，要确保奖学金发放到准确的学员账户中，防范欺诈冒领等问题。而通过蚂蚁数科的ZOLOZ身份认证服务，不仅免去了人工审核成本，也让学员在2分钟内完成注册认证流程。

而在海外耕耘多年的姚伟斌发现，海外市场有其独特性的一面，比如海外企业的付费习惯更好，尤其是在香港、新加坡等监管严格的地区，企业更愿意为服务买单。而且，海外企业习惯于买SaaS产品，而不是像国内市场有太多本地化部署的需求。

姚伟斌告诉数智前线，蚂蚁数科在海外的金融客户购买SaaS产品的比例非常高。相比于本地化部署，SaaS模式在AI风控上有着天然优势。一方面，产品提供方可以掌握更多的攻击样本，从而能及时响应，优化应对策略，提升拦截的效率；另一方面，风控算法本身对时效性要求高，而SaaS可以满足客户对最新算法的需要。

另外，虽然AI攻防的风险在全球范围内增加，但国家和地区之间对AI风控的诉求差异较大，比如数智化水平最高的中美表现得最为强烈，而东南亚、南亚和日韩等市场，已经在启动智能化进程。

业内普遍认为，中国企业在技术上与国际厂商没有代差，甚至比他们更强。因为国内的竞争激烈，有场景、有客户案例，也有非常多的竞争对手。

不过，在姚伟斌看来，中国企业出海需要做技术和产品的本地化，不能幻想着像国内一样能够短时间内大爆发，需要比较长的时间去酝酿和准备。