“AI换脸”“一键脱衣” AI诈骗正在进行

这两年AI技术快速发展，从AI变声到AI换脸，AI技术在给我们带来震撼的同时，也有心术不正的人利用它做坏事。比如，近来媒体常报道的“一键脱衣”案件，一位广州女生在地铁拍的美照，被个别网友，用AI一键脱衣软件生成了裸体照片。更可恶的是，在AI脱衣处理以后，还有网友就把生成好的裸照发到各个微信群，继续进行造谣，这对于当事人造成了极其恶劣的影响。

不仅是普通大众成为受害者，美国流行乐歌星泰勒·斯威夫特也受到“AI伪造照片”事件的困扰，大量由AI生成的泰勒虚假色情、血腥照片在多个社交平台疯传，浏览量已超过千万，引发社交媒体震动，也引起了美国白宫的注意。实际上这不是泰勒第一次成为AI“深度伪造”的受害者。就在不久前，有人使用AI技术仿造了她的声音和形象来为商品进行推广，让消费者误以为这是泰勒代言的商品。

使用人工智能算法生成的高度逼真的虚假图像、音频和视频等，被称为“深度伪造”内容。这一概念于2017年首次出现，此后借助该技术诈骗或操纵舆论的事件在全球愈加频发。以美国为例，过去一年里人工智能诈骗事件同比增幅超过了50%。不过时至今日，人们仍未能有效解决该问题。这是因为人工智能造假能力的进步速度远远超过了信息识伪技术的开发速度。如今，任何人都可以快速地、低成本地生成难辨真假的图像、音频甚至视频，而且难以追踪。与之相反，识伪技术则因在主题和软件方面具有特异性，难以得到普及。此外，核查事实需要花费更多时间精力。

立法是治理AI犯罪的一种途径。我们看到，2016年以来，各国陆续发布相关政策法规，但进展仍赶不上技术的进步。去年10月，拜登签署美国首项人工智能监管行政令，为人工智能建立安全和隐私保护标准，但被指缺乏强制执行效能。欧盟方面，虽然欧洲议会于3月13日通过《人工智能法案》，但是法案中的相关条款将分阶段实施，部分规则要到2025年才生效。日本执政党自民党直到最近才宣布计划在年内提议政府引入生成式人工智能立法。

近年来，我国也出台了《关于加强科技伦理治理的意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等多项法规和政策，一方面给AI有关技术的创新发展“鼓劲儿”，一方面又给其“立规矩”“划红线”，以确保相关技术的开发和使用遵守法律法规、尊重社会公德和伦理道德。

无论是生成式人工智能带来的虚假信息问题，还是人工智能应用的风险，其影响都是跨越国界的。因此，人工智能的监管和治理应通过国际合作来解决，各国应共同做好风险防范，携手共建具有广泛共识的人工智能治理框架和标准规范。AI技术作恶的确引发人们焦虑，但也无须过虑。如同时代的发展，人类社会也在自我调节中不断适应着新的变化，新技术短时间打破平衡，很快在社会的自我调节下恢复平稳。

相关素材整理于《“诈骗”“AI换脸”“一键脱衣”，人工智能的另一面到底有多黑暗？》一文