上海
一系列围绕X公司旗下AI工具Grok的事件在日本引发关注。部分日本中学生和大学生被发现，在未经当事人同意的情况下，利用Grok生成同学的性暗示或性化图像，这一行为已引起广泛不安，相关使用者也开始担心可能面临法律后果。
自2025年12月24日Grok上线图像生成与编辑功能以来，社交平台上陆续出现大量将现实中的人物生成成裸露或身着暴露内衣的合成图像，由此引发了多起受害者投诉。
1月6日，X公司发布警告称，使用Grok制作性化篡改图像的行为将被视为上传违法内容，可能导致账号内容删除、永久封禁，并在必要时配合执法机构展开调查。
日本法律咨询网站Bengoshi.com随后出现了大量相关咨询，提问者多为青少年和年轻用户，他们表示此前并不清楚使用Grok可能带来的法律风险。例如，有高中生坦言曾生成同班女生的裸露视频，虽未传播但担心仅“制作”行为本身是否已构成违法；也有人询问，仅向AI下达将同学处理成内衣形象的指令，是否会被认定为制作色情内容；还有大学生表示，尽管已删除账号和数据，但仍担忧平台是否会将相关信息提交给警方，甚至考虑主动自首。
专攻互联网法律的律师清水洋平指出，此类行为确实可能引发法律责任。他解释称，如果生成的图像涉及裸露或明显性暗示内容，可能构成对当事人的名誉侵害或隐私权侵犯；在情节严重的情况下，甚至可能涉及刑事层面的诽谤罪或著作权侵权问题。
日本发生的这些事件，也被视为全球范围内针对Grok的争议之一。批评者认为，该工具在一定程度上降低了生成不当内容的门槛。多名向法律网站咨询的用户表示，直到看到X公司的正式警告后，才意识到行为的严重性。目前，他们最担心的后果是刑事追责以及给家人带来的社会影响。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
