山东
IT之家1月7日消息，据彭博社报道，第三方分析显示，埃隆・马斯克旗下平台 X 已成为传播 AI 生成的非自愿脱衣图像的主要网站，本周早些时候，该平台每小时就会出现数千张此类图片。
自去年12月下旬以来，越来越多的 X 平台用户利用该平台内置的人工智能聊天机器人 Grok，对他人发布的自拍照进行篡改。社交媒体与深度伪造技术研究员吉纳维芙・吴指出，在对 Grok 官方账号发布到 X 的图片进行的24小时监测中发现，该聊天机器人平均每小时生成约6700张带有性暗示或裸露性质的图像。而在1月5日至6日的同一监测周期内，其余五个传播此类内容的主要网站，平均每小时新增的 AI “脱衣”图像仅为79张。
专攻网络性犯罪案件的律师卡丽・戈德堡表示，X 平台上深度伪造内容的泛滥程度“前所未有”。她补充道：“我们从未见过哪项技术能如此轻易地生成这类图像”，因为 Grok 是免费的，还与平台自带的传播系统直接关联。
美国责任创新组织政策高级主管布兰迪・诺内克指出，与其他主流聊天机器人不同，Grok 对用户几乎不设限，允许用户生成针对真人（包括未成年人）的性化内容。她表示，Anthropic 公司、OpenAI 以及谷歌母公司 Alphabet 旗下的其他生成式人工智能技术，“从一开始就在真诚地采取措施，抑制此类不良内容的生成”。“显然，xAI（Grok 的开发公司）的做法截然不同，它几乎是在放任用户肆意妄为。”马斯克曾宣称，Grok 比其他聊天机器人更有趣、更敢说，并为 X 平台成为“言论自由之地”而感到自豪。
针对此事，X 平台未予置评。马斯克并未从源头阻止聊天机器人生成此类内容，而是主张对提出相关生成请求的用户进行惩罚。他在 X 平台的一则帖子回复中表示：“任何利用 Grok 生成非法内容的用户，都将面临与上传非法内容相同的后果。”
然而，这样的举措给受害者留下的维权空间微乎其微。23岁的医学预科生麦迪（化名）称，元旦当天醒来，她看到了一张令自己毛骨悚然的图片。此前，她曾在 X 平台发布一张与男友在当地酒吧的合影，两名陌生用户却用 Grok 对这张照片进行了篡改：一人让 Grok 移除了照片中的男友，并将她的衣服换成比基尼；另一人则要求 Grok 把比基尼替换成牙线。
“我的心一下子沉了下去，”麦迪说，“我感到绝望、无助，满心都是厌恶。”
麦迪表示，她和朋友曾通过 X 平台的内容审核系统举报这些图片，但始终未收到任何回复。她还举报了其中一名用户发布的其他帖子，而根据举报反馈截图显示，X 平台称“经核查，你举报的内容未违反 X 平台相关规定”。截至本文刊发时，这些违规图片仍未被下架。
遭遇深度伪造侵害的受害者们纷纷在相关帖子的评论区与 Grok 对质。Grok 虽时常道歉并承诺会删除图片，但在多数情况下，这些图像依然存在，且 Grok 还在不断生成新的伪造内容。吴的研究数据显示，Grok 生成的图像中，高达85% 都带有性化性质。
IT之家注意到，Grok 因生成传播未经同意的性化图像（包括涉及未成年人的内容），正遭到欧盟、英国、马来西亚、法国和印度等多国监管机构的强烈谴责。欧盟委员会发言人托马斯・勒尼耶在周一的新闻发布会上表示：“我们注意到，X 平台或其旗下 Grok 聊天机器人推出了所谓的‘火辣模式’，该模式会生成露骨的性内容，部分输出图像甚至包含儿童形象。”他所指的是去年11月初 Grok 的一次更新，该更新使其具备了生成性暗示内容的功能，“这根本不是什么‘火辣’，而是违法行为。”
一位化名 BB 杰丝的 X 平台网红博主称，此前其他网站上未经她同意发布的“脱衣”伪造图片，终于陆续被下架。但就在上周，Grok 又生成了大量针对她的新伪造图像。她表示，当自己在 X 平台发文维权、谴责深度伪造行为后，相关恶意帖子反而变本加厉。
美国《通信规范法》第230条款规定，平台对用户发布的内容无需承担法律责任。但律师戈德堡指出，在人工智能生成内容的问题上，“X 平台并非只是被动的内容发布方，它实际上直接参与了图像的生成与创作”。
诺内克表示，2025年签署生效的联邦法律《下架法案》明确规定，平台需对这类内容的生成与传播承担法律责任。“这一案例恰好充分说明，这部法律应当尽快落地实施。”相关平台需在2026年5月前建立起法定的内容下架处理机制。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
