她的同学利用 AI 深度伪造她的裸照，专家表示：这种情况并不罕见

2023 年 10 月，埃利斯顿·贝瑞 (Elliston Berry) 返校庆祝活动后的第二天早上，这位北德克萨斯州的高中生收到一条短信：她的裸照在学校里流传。

但这些图像并不是真的。一位同学利用人工智能制作了深度伪造视频，将裸体照片放到了贝瑞 Instagram 上的照片上。当时她 14 岁。

“那天早上醒来，我感觉整个生活都颠倒了，”这位 15 岁的少年说道。“我不仅仅是那些照片里的我。但在那些时刻，我觉得人们看到的就只有这些。”

心理健康和网络安全专家表示，贝瑞的经历越来越成为青少年经历的一部分。

专注于儿童网络安全的非营利公司 Thorn 的最新报告显示，八分之一的 13 至 17 岁青少年认识一些遭受深度伪造裸照侵害的人。报告发现，青少年越来越容易接触到深度伪造裸照技术。人工智能内容通常与真实图像难以区分，并被用作虐待和骚扰的工具，主要针对少女和女性。

利用深度伪造进行欺凌仍属于欺凌行为

最初的图片在周一被传播出去，到周二又有更多。贝瑞说，一名男学生制作了另外八名女孩的深度伪造图片，并通过匿名 Snapchat 化名传播。

这件事发生在学校外，而且警方没有现成的应对方案，导致女孩和她们的家人几个月都不知道谁是凶手。她回忆说，受影响的女孩中有三名转学了。

每天，贝瑞走进学校时都担心上课前或去排球训练的路上会碰到不知名的欺凌者。她通常是那种在走廊上和朋友击掌、课间和别人闲聊的学生，但事件发生后的几个月里，她不想离开自己的卧室。

“她所遭受的精神痛苦和性格变化令人十分不安，”贝瑞的母亲安娜·麦克亚当斯说。她亲眼看着女儿从一个活泼外向的人变成了一个内向的人。

强奸、虐待和乱伦全国网络（RAINN）通讯副总裁詹妮弗·西蒙斯·卡莱巴 (Jennifer Simmons Kaleba) 表示，科技手段造成的虐待的影响与传统性侵犯案件的影响相似——羞耻、内疚、害怕后果以及潜在的长期心理健康影响。

但这种技术导向的剥削行为让这种虐待显得无处不在。没人知道贝瑞和她朋友的照片被分享了多少次，也不知道这种行为是否真的停止了。

“这种伤害是持续的，因为每次照片出现，就会有朋友打电话说‘我在网上看到你了’，这是一种新的违法行为，是一种新的耻辱，”RAINN 公共政策副总裁斯蒂芬·图克海默 (Stefan Turkheimer) 说。

相当多的青少年认识一些遭受人工智能裸照攻击的人

Thorn 对 1,200 名年轻人进行的调查发现，在 13 至 17 岁的青少年中，有八分之一的人认识深度伪造裸照的直接目标，而有十七分之一的人表示自己是深度伪造裸照的直接受害者。

Thorn 研究与洞察副总裁 Melissa Stroebel 表示：“这份报告的一大收获是，迫切需要让社会认识到，这种行为是不允许的，而且会对你的目标对象造成伤害。我们应该关注未经同意的、重新分享露骨图片的行为，以及由此造成的后果，无论这些行为是否使用了人工智能技术。”

虽然贝瑞告诉了父母发生的事情，但许多青少年都默默忍受痛苦。在索恩的调查中，大约一半的受访者寻求某种形式的线下支持，34% 的受害者表示他们告诉了父母或监护人。

“当时我只是一个 14 岁的女孩，而每个人都在看到我的身体，尽管那不是我的身体，但它却像真实的照片一样，给人带来同样的羞耻和内疚感，”贝瑞说。

这一发现是生成式人工智能在创作儿童性虐待材料方面所发挥作用的更大趋势的一部分。据美国失踪与受虐儿童中心 (NCMEC) 受虐儿童部门执行主任劳伦·科夫伦 (Lauren Coffren) 称，该中心于 2023 年春季开始内部跟踪生成式人工智能。有关生成式人工智能被用于创作虐待性内容的报告从 2023 年的 4,700 份增加到 2024 年的 67,000 份。

青少年时期是身体形象和自尊发展的关键时期

学生的初中和高中时期正值青春期，他们的独立性、抽象决策能力开始增强，身体也开始发生重大变化。

执业婚姻家庭心理治疗师、专攻性治疗和情商的沙丁·弗朗西斯 (Shadeen Francis) 表示，青少年会从家人和朋友的角度来决定自己与同龄人的关系。

弗朗西斯说：“在这个时候遭受创伤，尤其是考虑到创伤会破坏我们对自己和他人的信任感，这会对年轻人的自我意识造成很大的破坏。”

早期的虐待经历会对青少年在以后的生活中与他人建立健康的关系和信任的能力产生长期影响。受害者可能会产生焦虑、抑郁和创伤后应激障碍。

贝瑞担心人们不知道这些照片是假的，并担心这些照片将来在她申请大学或工作时会再次出现。她说，最糟糕的是，这些照片诽谤了她的人格，并在未经她同意的情况下将她置于性欲的阴影中。她从小就是一名虔诚的基督徒，她说她的父母教她永远不要发送裸照。

“我不想让人们觉得，‘哦，她就是这样的人，’”贝瑞说。“他剥夺了我的纯真，并把这些照片发给所有人，让他们看到我脆弱、虚弱的状态。”

她穿着运动衫和运动裤去学校来遮掩自己的身材，因为她不想让人们在现实生活中用照片上那样的眼光看她。

随着深度伪造的激增，资源和立法都滞后了

Deepfakes 首次引起公众关注是在 2018 年 2 月，当时 Reddit 暂停了 r/deepfakes，这是一个拥有 9 万名粉丝的子版块，用户会在上面制作虚假的色情照片和视频。当时，制作 Deepfakes 通常需要数千张图片，因此公众人物是主要目标。如今，只需几张图片就可以制作出 Deepfakes。

2024 年 1 月，用户制作了假冒的色情图片，描绘了泰勒·斯威夫特在一场足球比赛中的场景。据性暴力资源中心称，尽管这些图片明显违反了 X 平台的政策，但它们仍像“野火”一样传播开来。
麦克亚当斯说，女儿成为受害者让她震惊不已。“我听说的是电影明星或好莱坞的某个人，而不是孩子，”她说。“我当时并不知道后果会有多严重。”

2024 年 1 月，贝瑞所在学校受害女孩的父母根据《教育法修正案第九条》提起了调查，肇事者因传播有害材料而被指控犯有 A 级轻罪。RAINN 的 Turkheimer 表示，目前没有联邦法律要求网络平台删除非自愿的亲密照片，因此家长和学校没有资源来处理深度伪造案件。

八个多月以来，麦克亚当斯一直无法让 Snapchat 删除这些照片。她说，直到得克萨斯州共和党参议员泰德·克鲁兹的办公室亲自联系 Snapchat，照片才被删除。

贝瑞是推动立法者通过《删除法案》的倡导者之一，该法案将发布“未经同意的性剥削图片，包括人工智能生成的深度伪造图片”定为犯罪。这包括使用人工智能软件创建的“数字伪造”，并要求技术平台在收到有效请求后的 48 小时内删除举报的内容。

3 月 3 日，第一夫人梅拉尼娅·特朗普(Melania Trump)大力支持这项法案，该法案已获得参议院一致通过。坐在第一夫人旁边的贝瑞向议员们讲述了自己的故事。

特朗普表示：“看到青少年，特别是女孩，面对深度伪造等恶意网络内容带来的巨大挑战，真是令人心碎。”

青少年和家长应该知道这些

科夫伦表示，犯罪分子制作色情图片并不是什么新鲜事，但新的深度伪造技术的“狂野西部”让内容更容易制作，更难被发现。

如果您是深度伪造裸照的受害者，请使用 NCMEC 的网络举报热线report.cybertip.org或拨打 1-800-843-5678 向当局报警。专家表示，重要的是不要删除任何发生此类事件的平台，因为这些平台可以作为有用的证据。

开启有关深度伪造的对话——既涉及制作图像的严重性，也涉及被其伤害的可能性——应该以父母与孩子谈论同意和传统性侵犯的方式进行。

麦克亚当斯说，她对深度伪造图片“了解不多”，但很庆幸女儿能够坦然地来找她，并敦促其他青少年如果遇到这种情况也能这样做。

“和你的孩子谈论这些事情。他们必须知道他们可以来找你，而不必害怕，”麦克亚当斯说。