北京
6月4日消息，四名以化名起诉xAI的主要原告称，Grok被人用来生成涉及她们或他们本人的色情深伪图像；在这起美国联邦集体诉讼中，xAI要求法院撤销匿名保护，让四名起诉人以真实姓名继续打官司。
据《连线》报道，5月29日，四名主要起诉人向美国加州北区联邦地区法院提交宣誓书，说明自己遭遇深伪图像后的精神痛苦，以及如果真实姓名进入公开法庭记录，可能面临的网络骚扰和人肉搜索风险。他们目前在文件中分别被称为"南卡罗来纳州无名氏""南卡罗来纳州无名氏""新泽西州无名氏"和"俄亥俄州无名氏"。
争议不只在图片，也在"谁必须露脸"
这起诉讼源于今年早些时候Grok被滥用于生成"脱衣"、比基尼和色情化深伪图像的争议。数字仇恨对抗中心（Center for Countering Digital Hate）此前称，在11天内，Grok被用于生成约300万张色情化图像，其中约23,000张可能涉及儿童。
四名起诉人主张，自己的图像是在未经同意的情况下被生成或传播。其中一名起诉人称，自己发现网上出现了将她合成为穿暴露比基尼的深伪图像；另一名起诉人称，Grok被用于生成了她儿童时期的露骨图像。公开文件没有附上这些深伪图片。
xAI在5月中旬提交了两份动议，要求法院推翻此前允许起诉人使用化名的决定。xAI律师称，民事诉讼通常应列明当事人身份，公众对起诉公司者的身份有知情利益；他们还主张，起诉人没有提出足够证据证明会受到具体的进一步伤害，而且相关深伪图像不会作为公开材料披露，因此不应构成必须匿名的隐私理由。
匿名保护决定了受害者敢不敢起诉
对起诉人来说，公开真实姓名可能意味着二次伤害。几名起诉人在宣誓书中称，如果必须用真实姓名起诉，可能会考虑退出诉讼，因为她们或他们担心姓名被公开后，会被支持马斯克、xAI或Grok的人盯上，遭遇更多骚扰、报复或新的深伪图像生成。
原告方律师、伯格·蒙塔古律师事务所（Berger Montague）的索菲亚·里奥斯（Sophia Rios）在文件中批评xAI的做法，称该公司在被指让人"被脱衣"后，又试图"剥掉"起诉人的化名，以加剧他们正在寻求救济的伤害。她还在文件中称，xAI是在要求法院改变此前决定，并暗示相关滥用并不严重。
这类程序问题会直接影响受害者是否愿意进入司法程序。非自愿色情深伪图像本身已经把人和图像强行绑定；如果维权还必须把真实姓名永久留在公开法庭记录中，很多人可能会在追责和自保之间被迫选择后者。
《连线》称，xAI及其代理律师没有回应置评请求。报道还提到，弗吉尼亚大学法学院教授丹妮尔·西特伦（Danielle Citron）认为，在隐私类诉讼中强迫原告实名，可能会让案件被迫撤回，并削弱受害者追责的可能性。
这起案件的核心不是Grok是否"偶然出错"，而是当生成式AI产品被用于制作非自愿色情深伪图像后，受害者走到法庭前，是否还必须承担身份被公开、再次被围观和骚扰的代价。法院接下来如何处理匿名问题，会影响这四名起诉人的诉讼，也会给类似AI深伪受害者留下一个现实信号：法律救济是否必须以公开暴露自己为前提。（易句）
（本文由AI翻译，网易编辑负责校对）
本文来源：网易智能
责任编辑：
王凤枝_NT2541
