网上都说他死了，他也没法证明自己还活着

撰文 | Skin

2025年的奥斯卡金像奖的最佳真人短片奖颁给了比利时/荷兰电影短片《我不是机器人》。这部短片的剧情很简单：一个女人在上网时，很难通过一个困难的验证码测试，也就是我们常见的CAPTCHA测试。

也就是说，系统无法证明她“不是机器人”，而她的生活也开始受此影响，在多次尝试无果后，她甚至自己开始怀疑：“我到底是不是机器人？”

有时候，人机测试确实会比较困难……｜截图

这一剧情看似十分荒诞，但在2026年，比这更荒诞的事情却在现实世界中发生了。2026年3月，以色列总理本杰明·内塔尼亚胡（Benjamin Netanyahu）在网络上发布了一段视频。而后网络上谣言四起，说内塔尼亚胡已经“死了”，这段视频是AI生成的。网上的消息愈演愈烈，人们议论纷纷，关于这段视频的分析也不断升级。

深信内塔尼亚胡已经死了的人们认为，在视频中，他的右手看起来似乎“多了一根手指？”，人们认为这是AI深度伪造生成的假视频。而后出现了更多延伸的推测和阴谋论。过了几天，内塔尼亚胡不得不又发了第二条、第三条视频，用来自证“自己还活着”，甚至还拉来了身边的人一起拍视频以平息网络上的谣言。

内塔尼亚胡甚至还在一个视频里伸出了自己的手，证明自己确实有5根手指。｜BBC Verify

但是，谣言传播容易，破解谣言却十分困难，在解释这项事件时，各个专家和部门不得不通过各种细节来寻找事实。比如BBC的事实核查部门BBC Verify提到，内塔尼亚胡在说话时碰到麦克风的声音中断，目前还不是AI能实现的。又比如加州大学伯克利分校的数字取证专家则针对视频做了语音分析、逐帧人脸检测、光影检查，仔细侦测AI造假的痕迹，均无法证明这是AI生成的。另外，另一位专注于AI内容的媒体负责人则表示，目前，AI已经不会再犯6根手指这样的错了，网上说的“6根手指”应该只是光影造成的是错觉。

辟谣所花费的时间的精力要比传播谣言高的多得多。｜BBC Verify

其实不只是复杂的政治领域，在网上随便一搜，关于AI的怀疑和焦虑也已经遍布社交媒体的讨论场，甚至影响到了我们的日常生活。明星发布一条视频，评论中便有了这样的讨论：“他脸上的痣位置变了，这一定是AI生成的视频。”撰稿人托马斯·杰曼则提到，当他有一天忽然发了一条防诈骗的推文到家庭群，就连他妈妈也开始怀疑他。导致他也开始“反思”自己做事有点不像“自己”，是不是太冲动了？

还有些人则因为AI的语言习惯，开始改变自己的语言习惯。原本的“接住”、“dive into”、 “delve”（深入研究）“meticulous”（细致入微）等词汇，由于AI聊天机器人的大规模使用，成为了一种判断AI生成文本的标签。那我们还要用这些词吗？

人们开始对自己接收到的任何信息都持有怀疑态度，这是什么造成的？｜截图

事实上，这种看似荒诞的讨论背后是真实的受害经历带来的种种AI焦虑。深度伪造视频确实已经开始遍布社交媒体，甚至我们真实的生活。根据英国一项防欺诈机构的报告，在2025年一年的时间里，英国消费者就被诈骗了94亿英镑。虽然调查中，80%的人都认为自己能“区分骗子”，但如今诈骗和深度伪造的手段已经远远超过大多数消费者的防范范围。

另外，伪造的成本实在太低。比如视频，一位医生亲眼看见“自己”在短视频平台上推荐保健品的视频，视频和音频太过真实，就连他自己都差点信以为真。又比如AI已经伪造了文本、数据、甚至证据：比如法律专业的学生开始使用深度伪造视频完成作业，医疗从业者伪造临床数据。

在这样的情况下，人们对于真实世界的焦虑也随着互联网的传播而愈演愈烈。一项针对8个国家用户的大规模调查发现，如果人们曾接触过“AI假信息”，那么也会更加怀疑之后接触到的信息的真伪。

调查显示了8个国家的人们对四种深度伪造技术的感知准确度。研究中，先前遇到过深度伪造技术的人（蓝色），比先前没有看过假消息的人更容易怀疑自己看到的内容是假的。｜参考资料4

“证明”则是另一项严重的问题。Schiff等人的一项实验则发现，如果一段真实的录音被形容为“不确定真假”，那么，当人们心里认为它是真的或假的，都变得很难解释。正如上文中关于内塔尼亚胡事件，虽然各领域专家不得不花费巨大的工作量来进行仔细的调查，却仍然难以具有十足的说服力。

加拿大拉瓦尔大学的教育技术教授Nadia Naffi认为，想要改变现状，一家公司或机构首先要修复威胁，直视系统的脆弱性，以及珍惜优秀的员工；而行业和社会则需要制定更完善的标准，建设知识共享平台。

在这篇1983年的文章里， Geary Rummler 指出，“你让一个优秀的员工对抗一个糟糕的系统，结果永远是系统获胜”。｜参考资料8

她也提到，对于我们个人而言，在短期之内，也许需要和家人创建一些特定的暗号或手势，用来“对答案”。虽然听起来有些荒谬，但谁也不知道我们会不会真的迎来需要证明“我不是机器人”的那一天。

Nadia Naffi的一篇文章中写道：

在AI合成的媒体世界里，人工智能素养不仅仅是学会AI工具，而是要在AI主导的现实中生存下去。在这个“现实”中，耳闻和眼见也许不再是事实。

参考资料

[1]https://www.bbc.com/news/videos/cr5lgv34j87o

[2]https://www.bbc.com/news/articles/c0j59vydxj9o

[3]https://edition.cnn.com/2024/02/04/asia/deepfake-cfo-scam-hong-kong-intl-hnk

[4]https://www.tandfonline.com/doi/full/10.1080/08838151.2024.2410783#abstract

[5]https://www.cambridge.org/core/journals/american-political-science-review/article/liars-dividend-can-politicians-claim-misinformation-to-evade-accountability/687FEE54DBD7ED0C96D72B26606AA073

[6]https://www.unesco.org/en/articles/deepfakes-and-crisis-knowing

[8]https://eppicinc.wordpress.com/wp-content/uploads/2018/10/training-still-isnt-enough-training-magazine-1983.pdf

将“把科学带回家”

不错过每条有趣科学推文！

原创文章版权归微信公众号
“把科学带回家”所有

转载请联系：bd@wanwuweb.com

凡本公众号转载、引用的文章 、图片、音频、视频文件等资料的版权归版权所有人所有，因此产生相关后果，由版权所有人、原始发布者和内容提供者承担，如有侵权请联系删除。