北京
来源：市场资讯
（来源：国投智能股份）
近期，央视曝光多起利用AI换脸实施违法犯罪的典型案例，令人警醒：有人被合成不雅视频恶意报复，名誉尽毁；有人被冒充亲友视频诈骗，险些损失数十万元；更有不法分子通过换脸手段绕过人脸识别系统，盗刷他人金融账户，将人工智能技术异化为非法牟利的工具。
“眼见为实”曾是人们判断真实性的基本准则，如今却成了不法分子手中的“犯罪利器”。这些案例无不警示我们：AI换脸的滥用，早已不是“未来风险”，而是实实在在摆在每个人面前的安全威胁。
专家观点
国投集团特级专家、国投智能人工智能研究院院长 赵建强博士：
既要推动人工智能技术创新，更好筑牢AI安全底线。AI换脸背后的黑灰产业链，本质上是利用技术漏洞、个人信息泄露和监管滞后进行的系统性攻击。它危害的不仅是某个人的隐私安全，更冲击的是整个社会“眼见为实”的信任基石。
我们必须清醒认识到，这类新型AI犯罪之所以愈演愈烈，核心在于隐私数据的源头失守、AI技术应用失守和犯罪防御能力失守三个方面。不法分子能轻易获取人脸信息，说明个人隐私数据保护仍有短板；他们能绕过身份认证，暴露出现新技术带来的安全漏洞有可乘之机；而公众防不胜防，则反映出主动防御机制与安全教育的缺位。面对这一严峻形势，被动应对已远远不够。我们必须将AI鉴伪能力从“事后追溯”向前延伸，实现“事中拦截”乃至“事前预警”。
作为国内最先布局人工智能安全的国家队，国投智能已构建起覆盖人工智能生成合成图像、视频、音频和文本的全模态鉴别体系，产品已服务公安、司法、网信、运营商、金融机构、媒体等多个行业领域，为重大舆情研判、案件侦查、反诈治理等提供关键技术支持。
作为各地反诈工作的“电子哨兵”，美亚鉴真小程序已覆盖全国27个省近120个反诈政务平台，服务超30多万老百姓。并在多领域形成成熟的防诈鉴真解决方案：在金融领域，与头部机构合作的防深伪模型成功拦截多起AI冒充用户的电信诈骗；在电商领域，精准识别AI合成破损图骗退款行为，解决商家维权举证难；在市场监管领域，为查处AI虚假广告提供关键技术依据。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
