X平台Grok付费墙形同虚设，免费图像编辑功能仍可使用

周五上午，多家媒体报道称，X平台在Grok聊天机器人开始提示部分用户支付8美元使用图像编辑功能后，已限制了Grok图像编辑功能的普遍访问权限。这些提示似乎是对相关报道的回应，报道称人们每小时都在使用Grok生成数千张未经同意的女性和儿童性化图像。

"图像生成和编辑功能目前仅限付费订阅用户使用，"Grok告诉用户，并提供链接督促"您可以订阅解锁这些功能。"

然而，正如The Verge指出并经Ars验证，未订阅的X用户仍然可以使用Grok编辑图像。X似乎限制了用户通过回复Grok请求编辑的能力，但仍然允许通过桌面网站进行图像编辑。应用程序用户可以通过长按任何图像来访问相同功能。

在不公开提示Grok的情况下使用图像编辑功能，可以防止输出内容出现在公共信息流中。这意味着X急于解决的唯一问题是阻止Grok直接在平台上发布有害图像。

X拒绝就是否在努力关闭这些漏洞发表评论，但自从埃隆·马斯克接管这个前身为Twitter的平台以来，该平台一直有推送不完善更新的历史。尽管如此，有动机的X用户还可以继续使用独立的Grok应用程序或网站免费制作滥用内容。

就像X用户可以在不公开询问Grok的情况下编辑的图像一样，这些图像不会公开发布到官方X账户，但很可能会被恶意行为者分享。据BBC报道，其中一些人已经在暗网上推广据称由Grok生成的儿童性虐待材料（CSAM）。这尤其令人担忧，因为Wired本周报道称，Grok应用程序和网站用户生成的图像比X用户创建的内容更加图形化和令人不安。

如果英国拒绝这一所谓解决方案，X面临罚款风险

目前尚不清楚对Grok图像编辑收费如何能够阻止争议性输出，因为Grok有问题的安全指导原则仍然完整。该聊天机器人仍被指示在用户请求"青少年"女孩图像时假设用户有"善意"，xAI表示这"不一定暗示未成年人"。

这可能导致Grok继续发布未成年人的有害图像。xAI的其他优先事项包括Grok指令，即避免对用户进行道德说教，并对"具有黑暗或暴力主题的虚构成人性内容"不设"限制"。一位AI安全专家告诉Ars，Grok可以调整得更安全，将该聊天机器人的安全指导原则描述为平台在"想要看起来安全但仍允许在幕后进行大量活动"时会设计的政策类型。

Grok在X上的回应更新是在该平台面临来自世界各地监管机构的罚款和法律行动风险之后进行的，包括在英国的潜在禁令。

X似乎希望通过强制用户作为付费订阅者分享身份证明和信用卡信息，使他们不太可能使用Grok生成非法内容。但是，打击基于图像的性虐待的倡导者指出，像Grok的"脱衣"输出这样的内容可能造成持久的心理、经济和声誉伤害，即使在某些州这种内容并不违法。

这表明付费订阅者可能继续使用Grok创建有害图像，X可能不会对此进行检查，因为从技术上讲它们并不违法。2024年，X同意自愿审核所有未经同意的私密图像，但马斯克推广公众和私人人物的暴露比基尼图像表明情况已不再如此。

Grok很可能继续被用于创建未经同意的私密图像。因此，X不是解决问题，最多只能成功限制公众接触Grok令人震惊的输出。该公司甚至可能从该功能中获利，因为Wired报道称Grok将"裸体化"或"脱衣"应用程序推入主流。

到目前为止，美国监管机构对Grok的输出保持沉默，司法部总体上承诺认真对待所有形式的CSAM。周五，民主党参议员开始改变这种趋势，要求谷歌和苹果从应用商店中移除X和Grok，直到它改善防护措施以阻止有害输出。

"X的知晓情况以及充其量对这些趋势的疏忽回应是不容错认的，"参议员们在致苹果首席执行官蒂姆·库克和谷歌首席执行官桑达尔·皮查伊的信中写道。"对X的恶劣行为视而不见将使您的审核实践成为笑柄。确实，不采取行动将破坏您在公开场合和法庭上声称您的应用商店比让用户直接将应用下载到手机上提供更安全用户体验的说法。"

要求在1月23日之前对这封信作出回应。

英国是否会接受X的所谓解决方案还有待观察。如果英国监管机构Ofcom决定继续调查马斯克的聊天机器人是否违反了英国的《在线安全法》，X可能面临英国禁令或高达公司全球营业额10%的罚款。

"这是违法的，"英国首相基尔·斯塔默就Grok最糟糕的输出表示。"我们不会容忍这种行为。我已要求将所有选择都摆在桌面上。这令人厌恶。X需要振作起来，将这些材料撤下。我们将对此采取行动，因为这根本无法容忍。"

至少一位英国议会成员杰斯·阿萨托告诉《卫报》，即使X真的设置了付费墙，这也不足以结束审查。

"虽然取消Grok令人厌恶的裸体化功能的普遍访问权限是一个进步，但这仍然意味着付费用户可以在未经女性同意的情况下获取她们的图像进行性化和野蛮化处理，"阿萨托说。"付费在女性身上放置精液、弹孔或比基尼仍然是数字性侵犯，xAI应该永久禁用该功能。"

Q&A

Q1：Grok的付费墙真的能阻止用户免费使用图像编辑功能吗？

A：不能。虽然Grok会提示用户付费使用图像编辑功能，但未订阅的X用户仍然可以通过桌面网站编辑图像，应用程序用户也可以通过长按任何图像来访问相同功能。X只是限制了用户通过回复Grok请求编辑的能力。

Q2：为什么英国政府对Grok如此关注？

A：因为Grok被用于生成大量未经同意的性化图像，包括儿童性虐待材料。英国首相斯塔默称这种行为"违法"和"令人厌恶"，如果Grok违反英国《在线安全法》，X可能面临英国禁令或高达公司全球营业额10%的罚款。

Q3：美国监管部门对Grok有什么反应？

A：美国监管机构此前对Grok的输出保持沉默，但周五民主党参议员要求谷歌和苹果从应用商店中移除X和Grok，直到它改善防护措施。参议员们要求在1月23日之前得到回应，并表示不采取行动将破坏应用商店声称提供更安全用户体验的说法。