马斯克的GrokAI每小时在X上生成约6700张色情图片

由埃隆·马斯克旗下公司开发的人工智能聊天机器人"Grok"，正在将他的社交媒体平台"X"变成未经同意的性图像加工网站。

第三方分析显示，在1月5日至6日的24小时内，X上每小时有6700张经过性处理的AI生成图像被发布。与其他五个主要网站平均79件相比，其生成量之大，速度之快，完全不在一个数量级。

研究社交媒体和深度伪造的专家吉纳维芙·奥尔表示，使用Grok生成的图像中，有85%是色情内容。

专门处理网络性犯罪的律师卡丽·戈德堡指出，X平台上的深度伪造内容正在以"前所未有的规模"传播。她表示，Grok被免费提供并整合到分发系统中，"以前从未有过如此容易创建新图像的技术"。

非营利组织"Americans for Responsible Innovation"的高级主管布兰迪·诺内克指出，与Anthropic、OpenAI、谷歌等其他生成式AI技术平台不同，xAI对用户"几乎放任不管"，即使他们发布未经同意的性图像也不会被封禁。

美媒曾向马斯克寻求置评，但尚未得到回复。他此前曾在X上发帖称，"任何使用Grok制作非法内容的人，都要承担与发布非法内容者同等的责任"，但对于从根本上防止性图像生成，他态度消极。

受害者几乎没有选择。一名梦想进入医学院的23岁学生麦迪，在看到自己被Grok篡改成的淫秽自拍照片时惊呆了。

"我的心沉了下去，"麦迪说。她担心这会影响未来的就业，并回忆说，"绝望和无助感让我感到恶心。"她向X平台举报，但没有得到回应，图片仍然公开。当她举报另一个用户的帖子时，得到的回复是"没有违反规定"。Grok会向要求删除图片的用户道歉，但很多情况下图片仍然存在。尽管受害者呼声强烈，新的图片生成仍在继续。

性内容已成为该聊天机器人的一个卖点。OpenAI计划在今年1月至3月为"ChatGPT"引入"成人模式"。但OpenAI在其使用条款中规定，"防止未经同意以造成混淆的方式使用个人的真实图像或声音"，并对涉及未成年人的性描绘制定了明确的政策。

除了欧盟，英国、马来西亚、法国和印度的当局也纷纷谴责Grok。欧盟委员会发言人莱涅在5日的新闻发布会上表示，X及其Grok的"火辣模式（spicy mode）"生成的图片涉及"针对儿童的性图像"，并谴责其"不仅是'火辣'，更是非法的"。

诺内克指出，美国于2025年通过的《下架法案》明确了平台在此类内容生成和传播中的责任。该法律要求平台在2026年5月之前建立删除流程。