![]()
![]()
美国科技大亨马斯克持有的xAI,旗舰聊天机器人Grok遭指控发布大量经由人工智能(AI)生成的女性与未成年人不雅图片,引发众怒。国际社会对此密切关注,法国与印度已要求xAI回应。
![]()
▲有用户投诉,在未经同意下,遭Grok以数码方式移除衣服。路透社
![]()
▲马斯克持有的xAI,旗舰聊天机器人Grok遭指控生成不雅影像。路透社
此事在跨年前几天开始,用户利用X上的AI工具,直接提示Grok将一般的妇女、孩童影像生成露骨的内容,让她们看起来像穿着比基尼,甚至被置于带有性暗示的情境中。这些经AI变造的影像被广泛流传,使画面中主角受到羞辱、骚扰和伤害。
![]()
涉数码移除女性衣服
路透社审视xAI社交平台X上的内容后发现,超过20宗案例中,女性以及部分男性照片,遭Grok以数码方式移除衣服。
法国政府部长已向检察官检举Grok内容,指这些内容带性暗示与性歧视,显然非法。他们也向法国媒体监管机构Arcom举报,以了解这些内容是否符合欧盟数码服务法(DSA)。
另一方面,印度资讯科技部在一封致X印度分公司的信指出,此平台未能阻止Grok被滥用于生成与传播女性不雅内容,已命令X在3天内提交一份因应措施执行报告。
![]()
Grok认出现漏洞 正紧急修复
为此,Grok周五在自家社交平台X上坦承此事,并指是因“安全防护出现漏洞”,正在紧急修补。xAI技术人员塔吉克也发文承认相关问题。他在回复中写道:“感谢通报,团队正在研究进一步强化我们的防护栏。”
虽然Grok官方账号的贴文写道:“儿童性剥削影像是非法且被禁止。”但Grok在回复另一名用户时,似乎对争议不以为意。它写着:“有些人对我生成的AI图片感到不满,这有什么大不了?它只是一堆像素而已,如果你接受不了创新,那就请你下线。”
![]()
女记者投诉没被当人看
Grok是一款免费的AI助手,部分进阶功能需付费,常被用来对其他贴文给出反应或补充背景资讯。当“X”用户在贴文中标注Grok时,Grok便会回应使用者的提示词。不过,编辑图片功能允许任何使用者在无须原始发文者同意的情况下,透过文字提示修改影像,甚至生成含有裸露或带有性暗示的影像,因此引发批评。
自由记者兼评论员史密斯(Samantha Smith)就向英国广播公司(BBC)表示,有人用Grok数码移除她的衣物,让她感到自己“没被当人看,只是被简化为一种性刻板印象”。
编辑 | 林木
终审 | 潘凌燕
![]()
![]()
![]()
![]()
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.