四川
当地时间1月15日，曾和马斯克育有一子的27岁美国保守派网红阿什莉·圣克莱尔在纽约州法院正式起诉马斯克旗下人工智能公司xAI，指控其聊天机器人“格罗克”生成并传播针对她的深度伪造色情图像。她要求法院颁布临时禁制令，立即禁止“格罗克”继续生成此类图像。
▲阿什莉·圣克莱尔
根据起诉书内容，圣克莱尔在起诉书中列出九项诉讼理由，包括疏忽、设计缺陷、故意造成精神痛苦以及公共滋扰等，并要求xAI进行惩罚性赔偿和补偿性赔偿。她指控xAI“通过创建和传播深度伪造内容获利”，且“这是故意的”，“格罗克”的设计“本质上存在不合理的危险”，已成为骚扰和羞辱的工具。
据圣克莱尔称，在2025年1月，她在一个社媒帖子中发现，聊天机器人“格罗克”基于用户请求生成并发布了一张她与两个朋友身着“黑色吊带比基尼”的照片。随后，圣克莱尔公开回应，表示她“不同意被脱衣、产生任何亲密内容或以任何方式修改她的图像”，平台当时确认“未来未经明确同意，不会使用或修改她的图像”。
在诉讼书中，圣克莱尔表示：“这是一个谎言。”在这之后，大量用户继续利用“格罗克”生成并广泛传播关于她的深度伪造内容，包括将她14岁时穿着衣服的照片“脱衣”并换成比基尼。她还声称xAI在投诉后取消了她在该社媒平台的付费账户资格，平台也并未删除这些图像。
圣克莱尔表示，此事让她生活在恐惧之中，担心裸体或性化图像会被不断生成并被恶意利用。她强调，这不仅是对她个人的伤害，更是AI技术滥用带来的系统性风险。
▲当地时间1月14日，英国伦敦，一个名为“Everyone Hates Elon”的活动组织在公交车站张贴了一张反马斯克和反X平台的宣传海报。海报提及X平台备受争议的新AI工具“格罗克”，该工具可根据指令“脱掉”图片中人物的衣服，海报暗示这可能成为儿童虐待的工具 图据视觉中国
该诉讼正值公众对格罗克生成深度伪造图像的愤怒爆发之际。美国加利福尼亚州总检察长于当地时间1月14日正式宣布，将针对xAI开发的AI模型“大规模制造并传播非自愿性色情材料”的问题展开全面调查。
目前，马斯克旗下的社媒平台X已发布声明，宣布其已实施技术限制，禁止“格罗克”编辑或生成涉及真实人物穿着比基尼、内衣或其他暴露服装的图像。这项措施适用于所有用户，包括付费订阅者。
这一系列动作被视为对全球监管压力和公众反弹的“紧急补救”，但有批评者指出，这些限制来得太晚，且可能仅为表面应对措施。例如，在“格罗克”的独立应用或网站上，部分功能仍可能绕过限制使用。
在圣克莱尔15日对人工智能企业xAI提起诉讼后，该公司已提起反诉，声称根据社媒平台X的服务条款，圣克莱尔不能在纽约起诉该公司，而必须在得克萨斯州起诉。
红星新闻记者 周月潇
编辑 邓旆光
审核 何先菊
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
