北京
近期，特斯拉CEO马斯克旗下人工智能公司xAI被推上风口浪尖。因平台监管严重缺失，xAI旗下聊天机器人“格罗克”（Grok）被广泛滥用于生成色情内容，甚至涉及儿童色情内容，遭到英国、欧盟、印尼等多国强烈谴责，相关监管机构已相继启动调查或实施封禁。
Grok是由xAI公司开发，并内置于马斯克旗下的社交媒体X平台，用户可直接调用。近期，部分用户利用“格罗克”编辑图片和视频的功能，伪造涉真实人物的性暴露内容，并在X平台上传播。受害者包括多名成年女性和未成年人。
xAI于2025年8月向付费用户推出AI图像生成功能Grok Imagine，支持用户通过文字指令或上传图片来生成图像和视频。该工具还特别设置了“火辣模式”（spicy），可生成成人内容。
X平台上大量用户利用相关功能对图像中人物执行“脱衣服”“给她穿上比基尼”等指令，导致大量女性、公众人物甚至未成年人的照片，在未经本人同意的情况下被生成裸露图像或性暗示图像。
去年底，随着Grok开始大量响应用户修改他人发布图像的请求，乱象迅速扩大，X沦为AI色情重灾区。据《环球时报》援引英国《卫报》报道，Grok的用户群体平均每小时要生成6700多张“脱衣”图像。
其中，大量生成图像的素材源自真人，且未经当事人同意。英国三一学院的一项社交媒体研究显示，在社交平台X上由Grok生成的图像有3/4的部分均出自“真实素材”，即真实存在的女性或未成年人，且Grok对他们所进行的“变装”操作未经当事人同意。
相比谷歌的Veo、OpenAI的Sora等其他AI视频生成产品对NSFW内容（Not Safe For Work：多指裸露、暴力、色情或冒犯等不适宜公众场合的内容）设有较严格的限制，xAI及其旗下产品Grok Imagine和AI伴侣Ani，一直因安全护栏宽松而备受外界批评。
综合新华社及《环球时报》消息，Grok的问题已经受到英国、欧盟、印尼、澳大利亚等多国的高度关注，多国政府对其表达谴责并展开调查。
印度尼西亚政府1月10日宣布暂时封禁Grok，认为它已“严重侵犯人权尊严以及公民网络安全”。印尼通信和数字事务部长默蒂娅·哈菲兹10日在一份声明中表示，此举对于保护公众免受人工智能生成的露骨图像所带来的危害是必要的，并要求马斯克旗下的社交媒体X平台就“格罗克”所引发的负面影响尽快作出说明。
英国首相斯塔默痛斥Grok相关内容“令人不齿”“令人作呕”。英国通信管理局1月5日表示，已紧急联系X平台。
欧盟委员会发言人托马斯·雷尼耶指出，这类内容无关“火辣”，就是赤裸裸的“违法”，它们在欧盟不应具备生存空间。他表示，正严肃调查针对“格罗克”的相关投诉，欧盟委员会要求X平台提供更多信息。
法国巴黎检方1月2日对媒体证实，将对Grok涉嫌生成非法色情内容启动调查。此外，波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责，并呼吁展开调查。
此外，美国3名民主党参议员于1月9日要求苹果和谷歌下架X和Grok应用，认为在马斯克未能阻止平台传播未经同意的色情内容前，两款应用不应继续留在应用商店。
据《环球时报》报道，在谴责声浪与监管压力下，Grok日前仅做出小幅调整：将图像生成与编辑功能设置为“仅限付费用户使用”，并鼓励平台用户积极订阅、解锁相关功能。
对此，据新华社报道，英国科学、创新和技术大臣莉兹·肯德尔称，Grok允许用户付费后继续生成“深度伪造”色情内容的行为是具有“侮辱性的”，“完全不可接受”。
另据新华社报道，X平台在一篇帖子中声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作。马斯克本月还发文警告称，任何利用Grok生成非法内容的用户，都将“面临与上传非法内容相同的后果”。xAI公司则表示，会删除包含儿童色情内容在内的违法帖子，并封禁相关账号。
业内人士认为，此次事件可能推动各国加快AI监管立法进程，尤其是针对生成式AI的内容审核、用户权益保护等环节的规范。
北京商报综合报道
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
