网络上“AI名人”泛滥 深度伪造之恶何解？

钱江晚报记者 朱高祥

张文宏开始直播带货了？

近日，不少网友发文称，短视频平台上，疑似知名医生张文宏正在售卖一种蛋白棒，家中老人信以为真而大量下单。但仔细辨认可以发现，带货视频为AI合成。张文宏本人回应称，这些假的AI合成信息就像蝗灾一样，一次又一次发生，像漫天飞过来的蝗虫一样害人。

不仅是张文宏，网络上的“AI名人”已成泛滥趋势：“假靳东”迷倒一众大妈、“假雷军”辣评世间百态、“假拜登”宣布第三次世界大战开始、“假马克龙”直播回答“政府聘用灭霸”……

而更早之前的韩国Deepfake（深度伪造）性犯罪事件，不仅让韩国全体女性陷入“换脸恐慌”，更是引发全球关注，大众担心一种更广泛的、充满敌意的网络环境开始渗入真实世界。

人工智能方兴未艾，公众该如何面对新一代的“施虐者”？

女孩照片被盗成色情视频

群组内容不堪入目

河北保定女孩欣欣（化名）从未想过Deepfake会发生在自己身上。

今年7月9日，正在刷抖音的欣欣突然收到了一条私信，被网友告知有自称其男友的人在外网盗用她的照片后进行AI换脸并传播。

“我听到这个消息之后有些震惊且不敢相信，但真的看到这些照片后，我感到无比愤怒。”欣欣告诉记者，对方不仅制作大量AI换脸的不良照片与视频，还随意泄露了自己的个人信息，包括网名、真名、年纪、学校、专业等等。

欣欣随后通过多个途径进行了查证，这些照片和视频均是对方从自己的小红书搬运，经加工处理，制作出不堪入目的色情影像。欣欣第一时间选择报警并咨询律师，开始固定更多证据。

“当天晚上8点多，我报警备案，当时我没有排除熟人或者陌生人的各种可能性。后续我经过各种账号套话，得知对方了解我的家属关系等更隐私的信息，我就逐步缩小了嫌疑人范围，心中也有了怀疑的对象。”欣欣随后发布了一条仅对方可见的朋友圈，且把内容做了特殊标记，很快这条内容出现在外网。

欣欣把这条直接证据交给了警方，不久后警方给出处理结果：对方因传播淫秽物品，被处以行政拘留十日。

“没想到Deepfake离自己如此之近，更没想到施害者就是身边的熟人。”欣欣说，在处理这件事情的过程中，她了解到身边有很多女孩子在遭受类似的事件，甚至更严重。她们被泄露个人隐私、被造谣、被AI换脸、被性骚扰等等。

欣欣告诉记者，因为这段经历，短暂接触过几个软件，上面有成百上千的群组，群组里多的有上万人，里面内容不堪入目，充斥着各种女生的AI换脸照片与视频，以及污蔑、诋毁、造谣的话，恶心程度超出想象。

“由于造谣成本低，他们甚至不需要完整图片，只需要一张脸部图片就能完成所有，而且很难被抓到，这使得他们更加肆意妄为。”欣欣说。

普通人难识别深度伪造内容

专家：请勇敢举报

正如欣欣所言，发生在身边的Deepfake犯罪事件并非个案。

由英文“deep machine learning”（深度机器学习）和“fake photo”（假照片）组合而成的Deepfake（深度伪造），能基于人类行为特征如面部、声音等合成图像、视频、音频。当前这一技术，正被滥用成为针对妇女暴力、诈骗犯罪的新前沿。

据新华社报道，韩国教育部9月9日说，韩国今年已发生400多起涉及中小学生的相关案件，受害者累计超过600人。

与此同时，韩国用户使用的社交媒体Telegram上，被发现存在多个传播和分享该类型色情内容的群聊，其中已知最大的一个聊天室成员超过22万人。这类性犯罪事件的受害者人数尚难以统计。已知的被波及群体，包括女学生、女教师等，其中包含大量未成年人。

近段时间，在一些国内的短视频平台上，除了“AI名人”，“AI接吻视频”也十分流行。有博主宣称只需要下载一个软件，花费9.9元就可以完成。看着两个毫无关系的照片人物“活生生”亲吻拥抱在一起，不少网友直呼可怕。

融力天闻律师事务所高级合伙人刘赤军律师告诉记者，Deepfake之于视频，就像Photoshop之于图片，两者都直观冲击了真实和虚拟之间的界限。但Deepfake能够实现以极低的成本，制作出完全虚构又极其逼真的视频。

奇安信行业安全研究中心主任裴智勇表示，深度伪造，一般是指利用人工智能技术，生成高度逼真的视频、音频、图片、文案等内容。这些内容多被用于网络欺诈、制造谣言、扰乱公共秩序和生成各类色情内容。这些伪造内容大多使用了人工智能技术中的深度计算技术，识别难度很大。

“让普通人用肉眼或耳朵来识别深度伪造的视频、音频内容是不现实的，因为深度伪造本身就意味着难以识别，没有经过专业训练的普通人很难从技术角度识破深度伪造内容。”裴智勇说。

在他看来，虽然想要阻止人们使用AI生成伪造视频或图片不现实，但这并不意味着对恶意造假者无计可施：“国内对于网络色情视频和图片都有非常成熟的治理方法，即便不能用技术鉴别真伪，也可以从平台一侧阻止色情内容的传播，定位色情内容的传播源头并实施打击。”

裴智勇提醒，在自拍、短视频盛行的时代，当公众遇到有人使用伪造视频、音频等内容对财产侵害、名誉损害时，最好的办法还是及时报警或向平台进行举报，减少深度伪造内容带来的影响。

来源：钱江晚报