IU、李荷妮、安昭熙都被AI换脸？大家一定要小心这个！

据韩国媒体报道，韩国歌手兼演员IU的面孔遭AI深度伪造技术滥用。

在浏览Instagram快拍时，突然出现了一个游戏网站账号发布的包含IU的视频。视频中，IU在车内拿着平板电脑，介绍一款游戏应用程序。这是赌博网站滥用AI深度伪造技术，非法使用了IU的面孔。

在该视频中，AI合成的IU说道：“说'Chicken Road是骗局，在这里根本赚不到钱'，这类评论现在真是受够了”、“就在我刚才说话这会儿，1700万韩元就这么掉下来了”、“看吧，是真的。连我自己都难以置信”，以此介绍通过该游戏可以赚取巨额资金。

接着，AI合成的IU继续宣传道：“为了好奇的人，我最后再展示一次”、“现在打开Chicken Road应用，新用户可以直接获得最高300万韩元的奖金”、“亲自尝试过的人已经在赚钱了”。

该视频设置为禁止留言，视频左下角标有“广告”字样，并且如果在Instagram搜索框中直接输入该账号，会显示为不存在的账户。

该网站并非只滥用了IU一人。最近，演员李荷妮和女团Wonder Girls出身的成员安昭熙也遭到了AI深度伪造技术的滥用。

AI合成的李荷妮说道：“15分钟赚2000万韩元？哇，简直不敢相信！是真的”、“在电影试映会上，看到人们都在用什么应用，我也下载了”、“转动幸运轮盘，结果中了最高奖金”、“用赚来的钱尽情买想要的东西吧”。

还有AI合成的安昭熙，她说道：“我在这款应用里赚了超过2500万韩元，那家伙居然还不相信我”，并介绍了该游戏网站。随后，AI合成的安昭熙解释说：“一存入资金就收到了260万韩元的奖金，然后赚到了500万韩元。我用这个钱买了奔驰车。大家都下载应用领取奖金吧。头奖在等着你们呢。”

此前李荷妮被AI技术滥用时，广告是以帖子形式而非快拍出现，因此可以留言。对此，网友们在该网站的评论区标记了李荷妮的SNS账号及其所属经纪公司账号，直接告知其旗下艺人的面孔正被用于诈骗。

利用AI散布虚假事实的情况下，可能承担刑事处罚及民事损害赔偿责任。特别是当内容损害特定人物名誉时，可依据《信息通信网法》中的诽谤罪，判处最高7年以下有期徒刑、10年以下资格停止或5000万韩元以下罚金。若包含性相关内容，根据2024年9月修订的《性暴力处罚法》，可判处5年以下有期徒刑或5000万韩元以下罚金，若散布此类内容，最高可判处7年有期徒刑。