上海
综合美国有线电视新闻网、英国广播公司等外媒1月12日报道，近两日，印度尼西亚和马来西亚已先后宣布禁止国内对马斯克旗下大模型Grok的访问，理由是大量用户通过该模型来伪造色情图像。
这两个国家也成为首批因“深度伪造”（deepfake）而对AI采取封禁措施的国家。
1月10日，印度尼西亚数字部长梅乌蒂亚·哈菲德（Meutya Hafid）在一份声明中解释道，此项禁令旨在“保护妇女、儿童及广大公众免受利用人工智能技术生成的虚假色情内容的风险。”
马来西亚也于11日宣布实施临时禁令，原因是“Grok被滥用于生成淫秽、露骨色情、不雅、极具冒犯性且未经同意的伪造图像，其中包括涉及妇女和未成年人的内容。”
此次封禁的导火索是近期在社交媒体平台X（原Twitter）上引发的一股热潮——大量用户利用Grok的图像生成与编辑功能，将真实女性甚至未成年人的照片恶意篡改为裸露或穿着暴露的图像。
许多遭到冒犯的网友纷纷发声并将矛头指向马斯克，要求他加大对Grok的管控。
一位名为基拉娜·阿尤宁蒂亚斯的印尼残障人士向BBC表示，有陌生人利用Grok篡改了她坐在轮椅上的照片，生成了她身穿比基尼的图像。尽管她尝试调整隐私设置并向平台投诉，但收效甚微。
此前，马斯克和xAI曾表示，他们正在通过永久封禁违规账户以及“与当地政府和执法部门合作”来解决这一问题。然而，X平台仍然充斥着此类图像。有消息人士向CNN透露称，马斯克在xAI内部一直抵制为Grok设置审查和安全防护机制。
目前，X平台及马斯克方面尚未就印尼和马来西亚的封禁做出正式回应。
除前述两个国家之外，利用Grok生成裸露图片的行为也遭到了英国首相斯塔默的谴责。斯塔默曾批评这种行为“可耻”和“令人作呕”。
英国科技大臣利兹·肯德尔也呼吁采取迅速行动，打击深度伪造图像。她表示，英国的《在线安全法案》“包含如果服务商拒绝遵守英国法律，可以封锁其在英国被访问的权力”，如果英国通信管理局（Ofcom）决定封锁马斯克的社交媒体网站，她将予以支持。
本文系观察者网独家稿件，未经授权，不得转载。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
