欧盟谴责马斯克的Grok生成儿童色情图像：这是违法行为

IT之家 1 月 6 日消息，因人工智能聊天机器人 Grok 在社交平台 X 上生成包含未成年人在内的性化图像，欧盟正“极为严肃地”审视埃隆・马斯克旗下的这款产品。

欧盟委员会发言人托马斯・雷尼耶在当地时间周一的新闻发布会上表示：“我们已注意到，X 平台或其旗下 Grok 推出的‘火辣模式’会生成露骨涉性内容，部分内容还包含儿童形象相关画面。”他所指的“火辣模式”是 Grok 于去年推出的功能，可生成带有性暗示的内容。“这根本算不上什么‘火辣’，而是违法行为。”

X 平台用户一直在诱导 Grok 对人物照片进行数字化“脱衣”处理，这类照片的主体往往是女性，处理后人物看起来仅身着内衣或比基尼。这类图像在这一热门社交平台上的泛滥，引起了全球监管机构和网络安全倡导者的警惕，印度、英国、法国等多国官员均对相关帖文提出强烈谴责。

马斯克于上周日在 X 平台发文称，该平台会通过移除非法内容、永久封禁账号以及必要时配合官方调查等方式，对非法内容采取整治措施。他在帖文中强调：“任何利用 Grok 生成非法内容的人，都将面临与上传非法内容同等的后果。”

主流人工智能模型大多严禁生成涉性图像和视频，而 xAI 却将 Grok 定位为更具开放性的产品。该系统允许生成成年人局部裸露及带有性暗示的图像，但明令禁止生成涉及真人肖像的露骨色情内容，以及涉及未成年人的涉性内容。在美、英等部分国家，未经本人同意便发布由人工智能生成的个人私密“深度伪造”内容属于违法行为。如何界定并执行这些内容边界，是对图像生成类人工智能工具内置安全机制的一项关键考验。

xAI 显然未能实施有效的防护措施，这招致了全球监管机构的谴责。

英国媒体监管机构英国通讯管理局（Ofcom）于当地时间周一表示，已知悉外界对 Grok 功能存在的“重大担忧”，并已“紧急联络 X 平台和 xAI 公司，要求其说明为履行保护英国用户的法律义务所采取的措施”。

法国政府于当地时间周五指控，Grok 在未经当事人同意的情况下，于 X 平台生成“明显违法”的涉性内容，并指出此事可能违反欧盟《数字服务法案》。该法案要求大型平台采取措施，降低非法内容传播的风险。

印度电子和信息技术部已责令对 Grok 的安全功能展开全面审查；马来西亚官方也表示，在接到关于 Grok 生成“低俗”内容的投诉后，正对此事展开调查。

此前，马斯克旗下的 X 平台就已因涉嫌违反欧盟《数字服务法案》接受调查，并于去年 12 月因合规不力被处以 1.2 亿欧元（IT之家注：现汇率约合 9.82 亿元人民币）的罚款，这也是这项颇具争议的内容监管法案开出的首张罚单。欧盟对 X 等美国科技企业的重点监管举措，遭到了美国总统唐纳德・特朗普政府的强烈批评，美方称欧洲监管机构的做法是在“审查言论自由”。