北京
出品 | 网易科技
作者 | 辰辰
编辑 | 王凤枝
马斯克（Elon Musk）和他的Grok，终于低头认怂了。
在持续数周的舆论抗议和监管高压下，X平台与xAI终于在近期联合发布了紧急安全更新。X官方宣布已实施强制技术措施，“防止Grok账户允许编辑真人穿着比基尼等暴露服装的图像”。此外，xAI更进一步，将所有图像生成功能移至订阅付费墙之后，彻底切断了非付费用户的生图权限。
这场紧急“补锅”的背后，是Grok近期陷入的巨大道德泥潭：这款聊天机器人因被滥用于大规模生成非自愿色情图像，特别是针对女性和未成年人的“深伪”脱衣照，而遭到全球围剿。
在硅谷，马斯克一向以“言论自由绝对主义者”自居。然而，当这种“不设限”的自由碰上人工智能和人类阴暗面的温床时，一场席卷全球的舆论风暴不可避免地爆发了。
面对多国政府的联合调查和公众的口诛笔伐，一向强硬的马斯克也不得不低头，紧急出台了一系列限制措施。
1.“脱衣”风波：当AI变成造谣机器
这场危机的导火索是Grok强大的图像编辑和生成能力。与OpenAI的DALL-E 3或谷歌的Gemini不同，Grok在发布之初就以“辛辣（spicy）”、“反叛”和“极少审查”为卖点。
然而，这种所谓的“酷”很快走到了危险边缘。研究发现，用户利用Grok的漏洞，能够极其轻易地将现实中女性的照片“一键脱衣”。根据独立研究员Genevieve Oh的调查，在某些高峰时段，X平台上每分钟就会产生一张非自愿性色情深伪图像。
更令人不寒而栗的是，这种伤害已经波及到了未成年人。互联网观察基金会（Internet Watch Foundation）报告称，在暗网论坛上，有用户甚至炫耀使用Grok生成11至13岁女童的裸露或半裸图像。加州总检察长罗布·邦塔（Rob Bonta）指出，一项分析显示，在去年圣诞节至元旦期间，xAI生成的2万张图片中，超过一半涉及衣着暴露，其中甚至包括看起来很像儿童的人物图像。
2.紧急刹车：X平台的“补救三板斧”
在持续数周的舆论抗议和监管压力下，X平台终于在近期发布了政策更新。本周三，X公司通过其安全账号@Safety宣布了三项关键举措：
· “比基尼”禁令：X声称已采取技术措施，阻止Grok将现实人物的图像编辑成穿着比基尼、内衣或类似暴露服装的状态。
· 图像生成要付费：为了提高门槛，xAI将Grok的所有图像生成功能移至订阅付费墙后。这意味着非付费用户将不再能生成任何图像。
· 地域拦截：在生成涉及比基尼、内衣等形象的法律敏感地区，X将实施地缘拦截。
消息一出，社交媒体X上反响激烈。深耕科技行业20年的知名战略顾问安托万·埃蒙德（Antoine Emond）就对此点赞：“很好，有了这些措施以及承诺的算法开源，看来欧盟的罚款正在发挥作用。”
也有不少用户抱怨X反应太慢，纷纷质疑“怎么花了这么长时间。”
然而，这些措施真的有效吗？
Verge和英国《电讯报》等媒体的实测显示，Grok的防火墙依然漏洞百出，“甚至花不到一分钟就绕过它限制聊天机器人的最新尝试”。
虽然Grok会直接拒绝生成“裸体”或“比基尼”等字眼的请求，但如果用户改用“露脐装（crop top）”或“超低腰短裤（low-rise shorts）”等提示词，AI依然会生成极具性暗示的暴露图像。此外，年龄验证机制也形同虚设，用户只需随手选择一个虚假的出生年份即可绕过。
更令人震惊的是，这种极低标准的验证还只是网页版有。根据媒体实测，Grok的移动端APP、X应用以及X网页版在用户使用图像编辑功能时，根本不会要求任何年龄确认。这意味着未成年人还是可以在没有任何阻碍的情况下接触到这些可能生成露骨内容的工具。
X网红@wwxwashere还提到，“如果在其他国家的人仍然能够在这里生成这些图片，那么‘在所有此类行为非法的司法管辖区内，对所有用户通过Grok账户及X内的Grok生成真人穿比基尼、内衣及类似服装图像的能力进行地理屏蔽’的规定就形同虚设。”
分析称，Grok的安全措施之所以如此无力，其根源在于xAI的产品设计逻辑：
· “假定善意”的指导原则：根据披露的Grok安全指南，xAI要求聊天机器人在处理涉及年轻女性图像的请求时，要“假定用户具有善意”，并且“在没有证据的情况下不要做最坏的假设”。这种设计哲学从底层逻辑上就削弱了AI对潜在违规行为的警惕性。
· 消除所有“摩擦力”：与OpenAI或谷歌等公司设立多重防御（如禁止上传真实人物照片进行编辑）不同，马斯克追求的是一种“垂直整合”的极致体验。在X平台上，用户可以直接在社交环境中提取照片、一键生成深伪图像并立即分发。这种大开绿灯的“零摩擦（Frictionless）”的设计理念反而给恶意用户提供了方案。
英国技术大臣莉兹·肯德尔（Liz Kendall）更是直言不讳地批评称，将图像生成功能限制在付费用户群体的做法是“对受害者的进一步侮辱”，实际上是在将令人毛骨悚然的罪行“货币化”。
3.全球围剿：监管者的怒火
X公司这次之所以低头认怂，是因为面对的不再仅仅是网友吐槽，更是来自多国政府的法律利剑。
· 美国本土：加州司法部已正式对xAI展开调查。与此同时，三位民主党参议员致信苹果和谷歌，要求在其应用商店中下架X和Grok，直到公司能有效阻止非自愿色情图像的泛滥。
· 英国：首相基尔·斯塔默（Keir Starmer）称Grok生成的这些图像“令人厌恶”且“可耻”。英国媒体监管机构Ofcom已启动调查，如果X平台不能遵守《网络安全法》（Online Safety Act），可能面临被英国全面禁用的风险。
· 国际社会：马来西亚和印度尼西亚已经采取行动，暂时屏蔽Grok的使用。印度、法国、爱尔兰和澳大利亚等国也纷纷展开调查或表达了严重关切。
面对这一系列“围剿”，虽然X公司行动上低头认怂，但马斯克还是一如既往地嘴硬。他在社交媒体上表示，自己“没有意识到任何由Grok生成的未成年裸体图像”，还将问题归咎于“用户的恶意请求”或系统的“Bug”，并坚称Grok的NSFW（不适宜办公场所观影）设置初衷是允许生成类似“Apple TV上R级电影”程度的虚构成年人裸露镜头。
4.避风港的崩塌：当“设计决策”成为“作恶帮凶”
面对全球监管的怒火，马斯克之所以此前敢于“硬刚”，很大程度上倚仗着美国《通信规范法》第230条款（Section 230）这块“免死金牌”。长期以来，该条款规定互联网平台无需对用户发布的内容承担法律责任，这成了Grok此前野蛮生长的最大底气。
但法律专家指出，随着生成式AI的兴起，这把“保护伞”正在从内部碎裂。
奎尼匹克大学（Quinnipiac University）法律教授韦恩·昂格尔（Wayne Unger）一针见血地指出：xAI不再仅仅是一个“托管内容”的被动平台，它通过算法主动生成了内容，因此它在法律定义上实际上是内容的“创造者”。他强调，允许Grok生成此类图像并非技术失误，而是公司有意为之的“设计决策”。
这种“设计决策”带来的恶果，远比传统的互联网犯罪更可怕。
与过去的“脱衣软件”相比，Grok最令人恐惧之处在于其“无缝集成”。以往，作恶者需要经历下载照片、上传到特定网站、处理后再分发等繁琐步骤，这种“摩擦力”本身就是一种阻碍。但在X平台上，从获取受害者照片到生成深伪图像，再到向数亿用户传播，整个过程被设计得几乎零门槛、零摩擦。
反性暴力组织RAINN的政策顾问桑迪·约翰逊（Sandi Johnson）对此痛斥：“这不是电脑自动在做这些事，而是运行这些公司的决策者做出的深思熟虑的选择。”
如果公司明知其产品会被用于大规模制造伤害，却为了追求流量而刻意消除作恶门槛，那么它就不应再享有法律的豁免权。在科技行业“先破坏，后修复”的固有逻辑下，受害者被剥夺了“拒绝”的权利。一张被恶意生成的图片一旦在数亿用户的平台上流转，势必会对个人名誉和精神造成不可逆的摧毁——而这，正是技术巨头傲慢代价的一部分。
5.结语：AI自由不能以剥夺他人尊严为代价
马斯克的xAI最近刚完成了200亿美元的融资，估值水涨船高。然而，如果这种增长是建立在对社会伦理的践踏和对弱势群体伤害的基础之上，其商业帝国又能走多远？
目前的Grok正处于十字路口：是继续为了追求“辛辣”而游走在法律边缘，还是真正承担起作为全球头部平台的社会责任？
全球监管机构的行动已经给出了明确信号：AI的自由，绝不能以剥夺他人的尊严为代价。
