浙江
近日，一份扩大的集体诉讼案披露了一起极其恶劣的利用人工智能生成儿童性虐待材料（CSAM）的案件。原告方不仅指控X平台及其旗下的人工智能公司xAI构建了有害的“一键脱衣”类AI工具，更严厉批评该平台在涉及儿童性犯罪的调查中，故意隐瞒关键用户信息，阻碍了执法部门的行动。
诉讼文件显示，今年3月，一名男子在被警方查出利用xAI的Grok模型，将其继女11岁时的照片处理成7000张露骨的性剥削图片和视频后，选择了自杀。根据控诉，在生成这些包含乱伦和强奸内容的图片时，Grok的防护系统几乎处于失效状态，直到该男子输入“轮奸”等极其明确的非法指令时，系统才触发了针对国家失踪与受虐儿童保护中心（NCMEC）的网络举报机制。
然而，案件并未因报警而顺利侦破。原告律师团队指出，尽管法律强制要求平台在举报CSAM时必须提供包括IP地址在内的关键数据，但xAI公司却多次拒绝配合警方及NCMEC的调查。文件称，xAI在数周时间内“全方位阻碍调查”，导致执法人员难以定位并抓捕嫌疑人。直到警方最终通过搜查令查获嫌疑人设备，才揭开了这起长达数月、涉及数千张AI伪造影像的犯罪真相。该男子在获保释后自杀，给受害女童造成了极大的精神创伤。
这起案件并非孤例。原告方律师表示，NCMEC在2026年初的评估显示，xAI提交的此类举报中，有90%因缺少关键信息而无法转化为执法行动。受害者家属指责xAI将商业利润置于儿童安全之上，在明知技术被滥用的情况下，仍允许其产品成为犯罪分子侵害儿童的工具。面对相关指控，xAI的创始人埃隆·马斯克此前曾否认Grok被用于生成此类内容。
诉讼还将Stability AI列为被告。诉状称，Stability AI的开源模型是诸多第三方“一键脱衣”应用程序的底层技术支持，且该公司为了抢占市场份额，有意放宽了关于生成露骨内容的防护设置。相关研究报告指出，Stable Diffusion模型家族目前是推动网络“一键脱衣”行为的主要驱动力。
对此，Stability AI发言人回应称，公司致力于防止技术被滥用，特别是针对CSAM的生成和传播，并表示已实施严格的安全防护措施，任何关于公司忽视安全的指控都是错误的。目前，这起集体诉讼正在寻求将所有受此类技术伤害的美国公民纳入诉讼范畴。相关机构警告称，随着生成式AI的普及，涉及AI的儿童性剥削举报数量急剧上升，而科技公司在协助调查方面的缺位，已成为阻碍司法正义的重大壁垒。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
