允许用户生成“深度伪造”色情内容，英国警告马斯克名下AI企业！法国、波兰、印度巴西等国官员谴责，呼吁展开调查

据新华社，就美国企业家马斯克名下人工智能企业xAI的聊天机器人“格罗克”继续允许用户生成“深度伪造”色情内容，英国政府1月9日发表声明，呼吁英国通信管理局迅速采取行动，并警告说，如果xAI拒不遵守英国法律，其服务将面临在英国被屏蔽的风险。

据央视新闻，“格罗克”由美国企业家埃隆·马斯克旗下人工智能企业xAI公司开发，并内置于马斯克旗下社交媒体平台X。近期，X平台出现部分用户利用“格罗克”编辑图片和视频的现象，一些用户借此生成真实人物的虚假性暴露内容，并在X平台上散播，受害者包括数百名成年女性和未成年人。

图片来源：央视新闻

“格罗克”在涉嫌生成色情内容引发广泛谴责后，“格罗克”相关的图像生成和编辑功能已被更改为仅能由付费用户使用。英国首相府1月9日表示，这对受害者来说是“侮辱性的”。

据英国天空电视台网站等媒体报道，英国首相府发言人当天说，尽管最新服务变更证明了相关企业在想要行动时可以“迅速采取措施”，但这“不是解决方案”，“只不过是将允许创建非法图像的人工智能功能变成了一项高级服务”。

据报道，“格罗克”的服务更改是在英国通信管理局表示已与X平台“紧急联系”后进行的。英国首相斯塔默此前称此事“令人不齿”且“令人作呕”，他要求该公司“控制住局面”。

图像生成问题实际上自Grok Imagine推出后就浮出水面。Grok Imagine是一个AI图像生成器，允许用户通过输入文本提示来创建图片和视频。它包含一个所谓的“热辣模式”，可生成成人内容。上月底，随着“格罗克”开始大量响应用户修改他人发布图像的请求，问题迅速扩大。

此外，法国、波兰、印度、马来西亚和巴西等国的官员及监管机构也纷纷对X平台表示谴责，并呼吁展开调查。

据央视新闻，欧盟委员会发言人托马斯·雷尼耶1月8日表示，欧盟委员会已责令美国社交媒体平台X保留其内置聊天机器人“格罗克（Grok）”相关的全部内部文件和数据，直至2026年年底。

雷尼耶说，欧盟委员会“严肃对待”这一问题，并已决定延长2025年向X平台发出的“资料保留”要求。该要求此前主要涉及平台算法相关信息以及非法内容的传播与扩散情况等。

据美联社6日报道，xAI公司对其置评请求作出自动回复：“传统媒体撒谎”。但X平台并未否认通过“格罗克”生成的有问题内容的存在。X平台在一篇帖子中声称会对非法内容采取行动，例如删除内容、永久封禁账户，并在必要时与当地政府和执法部门合作。

每日经济新闻综合新华社、央视新闻