因生成淫秽内容，马来西亚暂时限制用户访问马斯克的Grok AI工具

IT之家 1 月 11 日消息，马来西亚监管机构称，X 平台旗下的 Grok 人工智能工具未能设置充分的防护机制，以防止生成包含涉及女性和未成年人的非自愿性私密图像在内的淫秽及有害内容，因此已暂时限制该国用户访问该工具。

马来西亚通讯与多媒体委员会（MCMC）表示，尽管此前已与相关方开展监管沟通并发出正式通知，但由于 Grok 工具被反复滥用，且 X 公司及人工智能公司 xAI 的回应被认定为不充分，这项限制措施于今日正式生效。

该委员会在今日发布的一份声明中指出，鉴于 Grok 工具被多次用于生成“淫秽露骨、不雅低俗、极具冒犯性的内容，以及经篡改的非自愿图像，其中包括涉及女性和未成年人的相关素材”，委员会已下令“暂时限制马来西亚用户访问 Grok 人工智能工具”。

监管机构透露，其已于 1 月 3 日和 8 日向 X 公司及 xAI 发出通知，要求两家企业落实“有效的技术防护与内容审核机制”，以杜绝生成违反马来西亚法律的人工智能内容，其中包括《1998 年通讯与多媒体法》第 233 条的相关规定。

然而，马来西亚通讯与多媒体委员会表示，X 公司于 1 月 7 日和 9 日提交的回应未能达到要求。

该委员会指出：“（X 公司）提交的回应主要依赖用户主动举报机制，未能解决由该人工智能工具的设计与运行模式所带来的固有风险。”委员会还补充称，认为这种应对方式“不足以防范危害发生，也无法确保企业遵守相关法律规定”。

因此，委员会采取限制措施，将其视为“在相关法律与监管程序推进期间，一项兼具预防性与适度性的举措”。

声明强调：“在切实的防护机制落地之前，尤其是能够有效防范生成涉及妇女儿童相关有害内容的机制到位前，Grok 工具的访问限制将持续生效。”

马来西亚通讯与多媒体委员会表示，仍愿与 X 公司及 xAI 进一步沟通，但沟通的前提是“相关企业需切实证明自身已遵守马来西亚法律”。该委员会同时呼吁公众积极举报网络有害内容，并在必要时向警方报案。

IT之家此前报道，因“生成色情内容”，印度尼西亚也已暂时屏蔽 X 平台聊天机器人 Grok。