AI假造五角大楼爆炸图片致股市波动，推特开启众包事实核查

·该功能将允许用户在推特的照片和视频旁添加笔记，并为具有误导性质的内容添加上下文和与该图像相关的信息。

·社区笔记将跟随图片出现。这意味着即使一个可疑的图片被其他用户发到推特别处，旁边也会有笔记。

当地时间5月30日，推特发布公告称将扩展其社区笔记系统，以标记被篡改和伪造的图像。一周前，五角大楼爆炸的虚假图片在该平台上被病毒式传播，推特推出这一新功能，旨在利用无偿的众包事实核查来控制错误信息和恶作剧。

该功能将允许用户在推特的照片和视频旁添加笔记，并为具有误导性质的内容添加上下文和与该图像相关的信息。

社区笔记功能将允许用户在推特的照片和视频旁添加笔记。

标记功能目前还处于测试阶段，仅适用于包含单个图像的推文。推特表示，计划在不久的将来扩展该功能，以处理其他多媒体内容，如动图、视频和多张图片的推文。

达到一定分数才能使用

在该公告发布一周前，一张五角大楼发生爆炸的AI生成图片在推特上被广泛传播。这张图片最先是由一个自称和彭博社有关的账号发出的，该账号有一个“蓝V”标志。“蓝V”一直是账号真实性的证明，但自从特斯拉CEO埃隆·马斯克收购推特后，只要订阅高级Twitter Blue服务就能得到这个标志。

推特在公告中表示，AI生成的虚假图片已经在平台上像病毒一样传播，其中一些可能会引起人们的困惑或恐惧。在某些情况下，这些图片不会带来危害，但在五角大楼的案例中，虚假图片对股市产生了真实的影响——引起了500亿美元的市值变动。

AI合成的图片显示五角大楼附近爆炸，引发股市动荡。

此前，社区笔记对误导性和虚假信息的检查仅限于文本。而现在，贡献者被允许添加媒体笔记（Notes on Media），即对图像或视频进行相关信息的注释。

“社区笔记旨在通过授权推特用户协作，为可能具有误导性的推文添加上下文来创造一个信息更丰富的世界。”推特在公告中写道，用户对带有社区笔记的推文的点赞和转发率相较于没有笔记的推文高15%到35%。

一旦用户成为贡献者，他们就可以开始添加笔记。要成为社区笔记的贡献者，用户必须首先证明自己有这个能力。为了确定这一点，推特给每个潜在的贡献者分配了一个写作影响力分数。分数从0开始，必须达到5分才能成为社区笔记的贡献者，达到10分才能在图像上添加社区笔记。用户可以通过评级已有的笔记等方式来提高写作影响力分数。

“他们的工作质量可能导致他们失去贡献者的身份。”推特表示，换句话说，如果有人通过遵守规则进入系统，然后利用贡献者身份放大或传播错误信息，就会被踢出贡献者团队，必须再次证明自己才能重新加入。

此前，社区笔记用户添加的注释会随着推文的转发和引用展示给其他人，但如果推文中的图片出现在其他帖子中，该笔记就不存在了。推特称，现在社区笔记将跟随图片出现。这意味着一个被标记的可疑图片即使被其他用户发到推特别处，旁边也会有笔记。

一个被标记的可疑图片即使被其他用户发到别处，旁边也会有笔记。

“在许多情况下，这些笔记可以提供有价值的上下文，不仅适用于一条推文，也适用于包含相同媒体的任何推文。”推特官方公告中写道。

遭到质疑

然而，推特对于能否将标记过的图片与平台上其他类似图片进行匹配还缺乏信心。推特社区笔记团队提醒道，新功能在匹配图片时可能会出现误报或漏报，“我们会努力调整这个功能，让它覆盖更多图片，同时避免错误匹配。”

2022年底，马斯克在收购推特不久后首次推出了社区笔记功能，这一功能基于该公司之前的“观鸟（Birdwatch）”计划，其目的是通过利用无偿的众包来核实推文的真实性，从而控制错误信息和恶作剧的传播。

自马斯克收购推特后，该平台的内容审核一直是一个关键问题。他在大规模裁员中砍掉了大部分内容审核团队的职位，但内容审核却是维持社交媒体网站正常运行、保持平台吸引力和盈利能力的关键。

此外，即便有完整的内容审核人员，推特也难以应对虚假信息的问题。信任和安全专家表示，分辨AI生成的图像和视频是专业工作者最擅长的内容。推特想通过扩展笔记功能来让用户群参与内容审核，但不幸的是，这些用户并不以他们的纪律性或细节处理能力而闻名。

日本SmartNews的信任与安全主管阿琼·纳拉扬（Arjun Narayan）也在一次采访中对这种做法表示担心，“这种削弱专业团队的做法可能会给公司带来麻烦。”