来源:市场资讯
(来源:国投智能股份)
近期,央视曝光多起利用AI换脸实施违法犯罪的典型案例,令人警醒:有人被合成不雅视频恶意报复,名誉尽毁;有人被冒充亲友视频诈骗,险些损失数十万元;更有不法分子通过换脸手段绕过人脸识别系统,盗刷他人金融账户,将人工智能技术异化为非法牟利的工具。
![]()
![]()
“眼见为实”曾是人们判断真实性的基本准则,如今却成了不法分子手中的“犯罪利器”。这些案例无不警示我们:AI换脸的滥用,早已不是“未来风险”,而是实实在在摆在每个人面前的安全威胁。
专家观点
国投集团特级专家、国投智能人工智能研究院院长 赵建强博士:
既要推动人工智能技术创新,更好筑牢AI安全底线。AI换脸背后的黑灰产业链,本质上是利用技术漏洞、个人信息泄露和监管滞后进行的系统性攻击。它危害的不仅是某个人的隐私安全,更冲击的是整个社会“眼见为实”的信任基石。
我们必须清醒认识到,这类新型AI犯罪之所以愈演愈烈,核心在于隐私数据的源头失守、AI技术应用失守和犯罪防御能力失守三个方面。不法分子能轻易获取人脸信息,说明个人隐私数据保护仍有短板;他们能绕过身份认证,暴露出现新技术带来的安全漏洞有可乘之机;而公众防不胜防,则反映出主动防御机制与安全教育的缺位。面对这一严峻形势,被动应对已远远不够。我们必须将AI鉴伪能力从“事后追溯”向前延伸,实现“事中拦截”乃至“事前预警”。
作为国内最先布局人工智能安全的国家队,国投智能已构建起覆盖人工智能生成合成图像、视频、音频和文本的全模态鉴别体系,产品已服务公安、司法、网信、运营商、金融机构、媒体等多个行业领域,为重大舆情研判、案件侦查、反诈治理等提供关键技术支持。
![]()
作为各地反诈工作的“电子哨兵”,美亚鉴真小程序已覆盖全国27个省近120个反诈政务平台,服务超30多万老百姓。并在多领域形成成熟的防诈鉴真解决方案:在金融领域,与头部机构合作的防深伪模型成功拦截多起AI冒充用户的电信诈骗;在电商领域,精准识别AI合成破损图骗退款行为,解决商家维权举证难;在市场监管领域,为查处AI虚假广告提供关键技术依据。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.