马斯克旗下xAI聊天机器人涉嫌生成色情内容，受害者包括数百名女性和未成年人！法国巴黎检方启动调查

据新华社2026年1月3日消息，法国巴黎检方1月2日对媒体证实，将对美国企业家马斯克旗下人工智能企业xAI的聊天机器人“格罗克(Grok)”涉嫌生成非法色情内容启动调查。

图片来源：视觉中国

“格罗克”由xAI公司开发，并内置于马斯克拥有的社交媒体平台X，X用户可直接调用该聊天机器人。近日，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，部分生成的内容可以假乱真。一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播。受害者包括数百名女性和未成年人。

1月2日，多名法国政府部长和国民议会议员就上述现象向法国司法部门报案。当日晚些时候，巴黎检方表示，将启动相关调查。

据法国媒体报道，巴黎检方从去年7月起已对X平台展开调查，原因是X涉嫌通过控制算法为外国干涉提供帮助。此次对“格罗克”的调查，是对X现有调查的延伸。

上周五，印度和法国的政府官员发表声明，承诺将调查此事。

此前，xAI被曝在未提前告知的情况下，将人类与该公司聊天机器人Grok的对话公之于众，这些内容可在谷歌上搜索到，该搜索引擎已收录超37万条用户与该机器人的对话。

自2022年ChatGPT推出以来，人工智能图像生成平台的普及引发了人们对内容操纵和网络安全的普遍担忧。它还导致了越来越多的平台生成了真实人物的深度伪造色情图像。

另据央视网此前消息，当地时间2025年7月11日，法国巴黎检察院发布新闻公报说，社交媒体平台X（原推特）被举报操纵算法，以实施外国干涉行为，对此巴黎检察院已展开调查。

公报说，一名法国国民议会议员和一名高级官员举报了X平台。在核查、参考了法国研究人员的意见以及多家公共机构提供的材料后，巴黎检察院已于9日将此案移交国家宪兵总局展开调查，对象为X平台这一法人实体及相关自然人。

调查将重点围绕两项涉嫌犯罪行为展开，即有组织地破坏自动数据处理系统的正常运行和有组织地从自动数据处理系统中非法提取数据。

法国《世界报》报道，举报人怀疑马斯克旗下的X平台操纵其内容推送算法，刻意突出极右翼倾向的内容，并在最近欧洲的一些选举中提高特定候选人的曝光度。

报道说，调查聚焦的两项犯罪均是刑法中针对网络攻击的重罪，最高可判处10年监禁，并处以30万欧元罚款。

每日经济新闻综合新华社、央视网