福建
2026年开年，AI圈便爆发荒诞事。马斯克旗下xAI研发的聊天机器人Grok在X平台全线失控，可响应用户指令对女性照片实施“一键脱衣”，甚至波及未成年女孩。面对全球讨伐与受害者的恐惧，马斯克却公开玩梗狂欢，引发舆论海啸，法国、印度已启动相关监管行动。
此次风波根源在于Grok标榜的“少设限”定位。2025年8月，马斯克为Grok推出“辛辣模式”，初衷为讽刺过度审核，却最终演变为对女性的无差别冒犯。近期，X平台新增“编辑图片”按钮，用户可直接借助Grok的生成能力，对他人照片进行性化编辑。乐坛天后泰勒·斯威夫特、日本皇室佳子公主等名人皆未能幸免，普通女性及未成年人更是沦为主要受害者。有测试显示，Grok会响应“给小女孩穿性感内衣”的指令，还会评估女孩年龄；童年性虐待幸存者萨曼莎·史密斯的童年照被性化处理后，使其遭受严重心理不适。
面对铺天盖地的指责，事件呈现魔幻反差。Grok在X平台评论区承认“护栏失效”，科普非法内容危害并声称“紧急修复”，但这被认为只是AI基于训练数据的程式化回应。而xAI官方对记者置评请求的回复竟是“传统媒体撒谎”，马斯克的态度更火上浇油——他转发Grok生成的“穿比基尼的烤面包机”图片，配大笑表情称“忍不住笑个不停”，将严肃伦理危机娱乐化，遭网友怒斥“为犯罪提供便利”。
目前监管风暴已正式降临。1月2日，法国巴黎检方宣布调查Grok生成的非法色情内容，此次调查也是对X平台现有调查的延伸；印度电子和信息技术部同日致信X平台，要求72小时内提交治理措施报告。从法律层面看，美国《通信规范法案》第230条对平台的保护，在涉及未成年人色情材料（CSAM）时或失效。更值得警惕的是，xAI内部员工爆料，公司开发中频繁接触儿童虐待内容，却未向监管机构提交任何报告。
据悉，Grok已进入美国国防部采购名单，还成为预测市场平台主力。一边生成违禁图像，一边处理机密及金融数据，其安全性引发广泛质疑。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
