AI“高仿”新闻图像泛滥引担忧

参考消息网1月10日报道 据法新社1月9日报道，8日，一名美国移民与海关执法局(ICE)执法人员在明尼阿波利斯开枪射杀一女子。数小时后，人工智能(AI)深度伪造的、关于受害者和开枪者的信息在网络上大量传播。这凸显出在重大新闻事件发生后，专家们所说的“幻觉”内容越来越普遍。

法新社发现，社交平台上——主要是在X平台上——有数十个帖子，用户在其中分享了AI生成的执法人员图片，声称要“揭开”其面罩。

反特朗普的“狂犬”政治行动委员会主席克洛德·泰勒在一篇配有类似图片的帖子中写道：“我们需要知道他的名字。”该帖子的点击量超过130万次。

泰勒后来声称，在“得知这是AI生成的内容”之后，他删除了这个帖子，但网民仍能看到该帖。

许多伪造内容都是利用马斯克旗下的xAI公司开发的AI工具“格罗克”(Grok)制作的。

报道指出，在美军强行控制委内瑞拉领导人马杜罗后，大量虚假照片和视频也淹没了社交平台。

这些获得数以千万计浏览量的虚假或误导性帖子凸显出一个新的数字现实——在重大新闻事件发生后，足以乱真的虚假图像与真实图像争夺人们的关注，并且经常淹没后者。

在马杜罗被抓后不久，法新社的事实核查人员就发现，在X和脸书等社交平台上有帖子宣称展示的是马杜罗遭美军扣押的最新照片。照片似乎是在一架飞机附近拍摄的，马杜罗身边是美军士兵。

但这张照片是AI生成的，谷歌的AI工具“双子座”发现了隐形的数字水印。

社交平台用户还贴出了一张照片，声称显示的是一名美国士兵与马杜罗的合影。

但这张照片的原版拍摄于2003年，原图是美国抓捕伊拉克领导人萨达姆。

虚假信息监察机构“新闻卫士”网站说，它识别出7张(条)与美国在委内瑞拉的行动有关的伪造、失实的照片和视频。不到两天的时间里，这些照片和视频仅在X平台上就获得了总共1400多万的浏览量。

这种趋势凸显出在社交平台流传的“AI垃圾”与失实视觉资料的组合是如何模糊虚构与现实之间的界限的。

“新闻卫士”网站高级分析师基娅拉·韦尔切洛内说：“虽然许多视觉资料不会严重扭曲事实，但断章取义的视频代表着误导者的武器库中又多了一种手段。这让事实核查人员更难揭露，因为这些视觉资料往往很接近现实。”（编译/胡婧 杨新鹏）