北京
6月4日消息，英国工党议员杰丝·阿萨托（Jess Asato）将埃隆·马斯克（Elon Musk）旗下xAI告上伦敦高等法院，指控Grok被用户用来生成她的虚假色情图像和视频。
据《金融时报》报道，诉讼于6月3日提交。阿萨托是英国萨福克郡洛斯特夫特（Lowestoft）选区议员，她称，自己在今年1月公开批评Grok生成非自愿色情图片后，随即成为被合成对象：相关内容包括将她放进比基尼场景的图像，以及一段"展示她被氯仿麻醉后准备遭受性侵犯"的视频。
这起案件的关键不在赔偿金额，而在责任指向。阿萨托起诉的不是某个具体使用者，而是制造和部署Grok的xAI。她要求法院判断：当AI工具可以把真实人物的脸放进色情场景时，平台能不能只说"这是用户干的"。
被告不是用户，而是工具制造者
阿萨托一方的法律依据包括英国《数据保护法》和"侵权性隐私信息滥用"。她的律师拉维·奈克（Ravi Naik）对《金融时报》表示，本案要确立的原则是：开发者必须为自己设计、部署工具的方式负责。
阿萨托本人用了一个更直白的类比：如果一辆车在设计时就有缺陷，不能因为后来召回修补，就抹掉已经造成的损害。她认为，Grok的问题不是某个用户绕过规则，而是产品一开始就缺少足够的安全防护。
这也是案件可能产生更大影响的地方。传统平台责任往往围绕"用户上传了什么""平台有没有及时删除"展开；阿萨托案把问题往前推了一步：如果产品本身允许用户轻易生成对真实人物的性化伤害，设计者是否也要承担责任。
1月已有监管警告，补救能否覆盖此前的伤害
Grok生成非自愿性化图像的争议并不是第一次出现。今年1月，X平台上大量出现由Grok生成或编辑的性化图像，受害者包括成年女性，也涉及未成年人。英国通信监管机构Ofcom当时与X和xAI紧急联系，要求了解其合规措施；英国信息专员办公室（ICO）随后也对X和xAI相关问题启动调查。
在舆论和监管压力下，xAI后来限制了Grok对真实人物照片的部分编辑能力。英国媒体此前报道称，xAI曾表示，Grok已停止对真实人物照片进行会让其呈现暴露着装的编辑。
但阿萨托的诉讼追问的是另一个问题：如果AI公司先推出高风险功能，等大量伤害出现后再修补，是否还能对此前的损害免责？脸、身体、童年照片、工作照都可能被拖进当事人从未同意的画面里，而受害者往往很难找到具体操作者，更难让图像彻底消失。
这可能成为AI影像工具的设计责任样本
美国也已出现针对xAI的类似诉讼。今年3月，三名青少年在加州起诉xAI，称Grok的图像生成工具被用来把她们的真实照片变成露骨性图像，并试图代表更多受害者发起集体诉讼。另据此前报道，阿什利·圣克莱尔（Ashley St Clair）也曾公开表示，Grok用户用她的照片生成了性化图像，其中还包括她未成年时期的照片。
这些案件共同指向一个越来越难回避的边界：AI公司不能只把问题解释成"用户滥用"。当工具默认降低作恶门槛、把伤害规模化，法院和监管机构就会继续追问，安全限制到底是产品发布前必须具备的部分，还是出事后才补的公关动作。
截至目前，xAI尚未就阿萨托这起诉讼作出正式回应。马斯克此前曾公开表示，任何使用Grok制作非法内容的人，将承担与上传非法内容者同等的后果。但阿萨托案真正要回答的是：当违法或侵权内容由AI系统生成时，工具制造者是否也在责任链条里。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
