马斯克震惊全球，旗下AI爆出生成大量裸露擦边内容

由全球首富埃隆・马斯克创造的Grok AI终于一炮而红。

不过靠的并不是其技术突破，而是因其被广泛滥用于生成裸露擦边内容，甚至涉及未成年人，最终遭到英国、欧盟、印尼等多国的强烈谴责与监管介入。

这场风波不仅暴露了单个产品的漏洞，更撕开了AI行业商业化与伦理安全的深层矛盾，全球AI涉黄警报正式拉响。

Grok“失控”，受害者遍布全球

一切的起因，要从Grok最新的视频生成功能Imagine说起，据称该功能在开放后24小时内用户使用量达数千万次。

2025年8月，xAI向X平台的付费用户推出了AI图像生成功能“Grok Imagine”，除了支持文字指令生成图像、视频外，其中还特意设置了一个名为“Spicy Mode”（火辣模式）的功能，直接打破了主流AI产品对“不适宜内容”（NSFW）的严格限制——因为其明确允许生成成人内容。

当OpenAI、谷歌等巨头在提升代码能力和逻辑推理的赛道上内卷时，马斯克为Grok选择了一条截然不同的道路。

图源：X

彼时，xAI或许认为允许成人内容带来的商业利益远超于其面临的风险，但现实很快证明，在庞大的用户需求与技术滥用面前一切的风险预设都显得不堪一击。

随着Grok Imagine支持“修改他人发布图像”的功能上线，乱象迅速升级。

大量用户开始利用这一工具对真实人物照片进行“脱衣”“添加性暗示元素”等操作。

据英国知名媒体《卫报》援引的数据显示，Grok的用户群体平均每小时要生成6700多张“脱衣”图像，而英国三一学院的社交媒体研究更指出，在X平台上由Grok生成的图像中，3/4的素材源自“真实人物”——这些人物的照片多来自社交平台，未经本人同意便被用于成人内容创作。

最受关注的案例之一，是美国歌手泰勒・斯威夫特的肖像被恶意嫁接至比基尼图像中，在网络上广泛传播，不仅严重侵犯其肖像权与人格尊严，更引发了公众对“AI图片生成技术”的恐慌。

更令人担忧的是未成年人成为受害者。多方消息显示，Grok生成的擦边内容中，包含多起涉及未成年人的案例——有用户将中小学生的校园照片上传至平台，通过“火辣模式”生成性意味图像，并在私密群聊中传播。

图像人工智能篡改检测公司Copyleaks的监测数据显示，2025年12月下旬，Grok公开可访问的图片流中，平均每分钟就会出现一张“未经同意的性暗示图片”，其中不乏未成年人影像。

面对愈演愈烈的乱象，xAI的应对却显得敷衍且被动。在多国监管压力与舆论谴责下，Grok仅做出了小幅调整：将图像生成与编辑功能“仅限付费用户使用”，并在X平台上发布声明称“会删除非法内容、永久封禁账户”。

图源：X

但这种调整不仅未能解决核心问题，反而被质疑是“借监管争议营销付费服务”——英国技术大臣Liz Kendall对这种将问题转化为付费服务的做法表示：“如果说仍可以通过付费访问这项服务，那是侮辱性的。”

更糟糕的是，作为xAI创始人的马斯克不仅不以为耻，反而自己多次下场玩起了“AI黄色笑话”。

图源：X

甚至就在几天前，他还自己用Grok为自己生成了一张“马斯克比基尼照片”，画面不堪入目，而马斯克却洋洋自得，大呼“完美”。

图源：X

马斯克才是真正的“流量之神”

Grok的“裸奔”并非偶然，而是多重因素交织的结果——马斯克的商业化野心驱动监管套利，技术层面的防护栏缺失降低滥用门槛，以及部分用户需求的异化，共同将这款AI产品推向了伦理与法律的边缘。

从商业逻辑来看，马斯克对Grok的定位自始至终带有“流量导向”的色彩。

上海社会科学院信息研究所所长刘炜指出，马斯克深谙“争议是最好的催化剂”，而Grok的宽松内容政策，本质上是一种“监管套利”策略。

在ChatGPT、谷歌Gemini等主流AI平台因严格限制成人内容而“流失”部分用户时，Grok通过降低伦理门槛，收割那些被主流平台拒绝的需求，进而为X平台的付费订阅服务引流。

这种策略并非无迹可寻：早在Grok Imagine推出前，X平台就多次通过“释放边缘内容”吸引关注。

此前，Grok已经悄然上线了“Companions”（AI伙伴）功能。

其中一个名为“Ani”的二次元风格女性角色，因其露骨的对话风格和“让你的生活更性感”的宣传语引发了巨大争议。

随后推出的“Valentine”，设定为“富有魅力、具有保护欲”，能够“真正理解你的氛围”，并与基于Solana区块链的同名模因币绑定，形成了一个集AI伴侣、粉丝经济和加密文化于一体的独特生态系统。

图源：网易科技

与OpenAI对ChatGPT设置的多层内容过滤机制不同，Grok从设计之初就弱化了风险防控，甚至还会主动帮你寻求刺激。

据一名X网友透露，在他选择了“火辣模式”却没有要求Grok脱掉角色的衣服的时候，最终呈现出来的画面居然是“立刻脱掉了裙子，底下只穿着一条流苏丁字裤，然后开始跳舞，完全未经审查，完全暴露”。

世界各国反应迅速而强烈。英国通信管理局已紧急联系X平台，表示正对Grok生成裸露图像及儿童性暗示图像的功能表示严重关切。

欧盟委员会发言人Thomas Renier也确认，欧盟正严肃调查针对Grok的投诉，并要求X平台提供更多信息。

美国三位参议员——俄勒冈州的Ron Wyden、马萨诸塞州的Edward J.Markey和新墨西哥州的Ben Ray Luján，联名致信苹果和谷歌首席执行官，要求立即将X和Grok应用从应用商店下架。

更直接的是印度尼西亚，这个东南亚最大经济体已成为全球首个对Grok实施全面封禁的国家。

图源：中国经济网

当然，Grok的问题并非孤立存在。

或许是看到了商机所在，除了马斯克的Grok外，去年11月谷歌发布的新图像生成模型Nano Banana Pro，12月OpenAI更新的ChatGPT Images模型，同样被爆出具备编辑图像将人放入比基尼的功能。

康奈尔大学安全、信任与安全倡议主任Alexios Mantzarlis指出：“整个科技行业推动和放任了AI图像生成器的鲁莽部署。”

AI涉黄不是“自由”，而是必须守住的红线

Grok引发的全球监管风暴，标志着各国对“AI生图滥用”的态度从“观望”转向“强硬”——技术创新不能以牺牲伦理为代价，AI的“自由发展”必须有明确的边界。而“不伤害他人”，是最基本的底线。

目前，欧盟已经根据《数字服务法》对X展开了调查，并正在考虑处以罚款。罚款金额可能高达X公司全球年收入的6%。

更值得注意的是，欧盟正在积极推进《人工智能法案》的落地，该法案已于2024年5月获批，预计2026年8月正式实施。

作为全球首部综合性AI监管立法，它采用风险分级监管方法，并对通用AI模型设置专门规则。

法案中的透明度义务规定，AI系统提供者必须确保其生成的内容以机器可读的形式被标记，并可被识别为AI所生成。

同时，Grok事件正加速全球AI治理版图的重塑。截至2024年底，全球已有69个国家和地区制定了人工智能相关政策和立法。

但这种繁荣背后是“规范碎片化”的风险。不同司法管辖区规则的差异，迫使跨国企业必须维护多套合规机制，导致合规成本急剧上升。

一家同时在欧盟、东南亚与中国运营的公司，可能需要应对三套以上不同的AI治理规则。

当欧盟试图通过《AI法案》确立全球标准，其他国家却可能强调国家安全与数据主权，形成替代性的规范体系。

结果可能不是一个统一的全球框架，而是多个区域性、阵营化的规则体系。

在这种背景下，Grok事件成为了一个关键的压力测试案例。

它迫使各国监管机构、技术公司和公民社会共同面对一个根本问题：在一个AI可以轻易越过人类伦理与法律边界的时代，我们究竟需要什么样的全球性护栏？

作者 | 刘峰