日本首例：用AI制作色情图像并售卖，4名日本人被捕，1年赚1000万

4月15日，日本警视厅以涉嫌利用生成式AI制作并在网络拍卖平台贩卖淫秽图片为由，逮捕了年龄在20多岁至50多岁的男女四人团伙。

据警方透露，此次案件涉及的图片均为不存在的AI虚拟人女性。这也是日本国内首次查处通过生成式AI技术制作并贩卖淫秽物品的案件，引发社会广泛关注。

被捕的嫌疑人包括来自爱知县的零售业者水谷智浩（44岁）及居住于埼玉县的公司职员菅沼贵司（53岁）等4人。

据警方调查，去年10月起，这4人多次将通过AI生成的女性不雅图片制作成海报后，公开在网上拍卖，每张售价数千日元。

其中水谷嫌疑人通过一年左右的时间，非法获利超过1000万日元（约合人民币52万元）。

警方表示，这些图片的制作过程涉及使用免费提供的生成式AI软件，通过大量网络图片训练AI模型后，通过“张开双腿”等指令，生成了逼真的虚拟裸露女性图片，并以“AI美女”等噱头在社交媒体进行宣传销售。

尽管日本在成人产业方面的态度相对宽松，合法的成人影片（AV）和相关制品在市场上普遍存在，但日本法律对于“淫秽物品”的界定十分明确。

根据日本刑法第175条，公开贩卖或展示淫秽物品必须进行必要的遮挡处理（如马赛克），否则将构成违法。可能这次案件中的图片正是因未遵守这一遮挡标准，且过于逼真和露骨，才被警方明确界定为违法淫秽物。

水谷智浩表示，他发现制作销售此类海报利润率很高，因此才决定尝试；

而菅沼贵司则称希望将此作为一项业务开展，为此专门通过自学掌握了AI制作图片方法。

面对警方的讯问，水谷和其他三名嫌疑人已经承认了这些指控，而樱井则部分否认了这些指控，称他“不认为这是违法的”。

目前，以AI技术生成的虚假色情图片在网络上泛滥，其中包括针对真实人物进行篡改或伪造的所谓“深度伪造（Deepfake）”技术，已成为全球性问题。

此前，日本也曾发生过使用此类技术侵犯真人名誉的案件，但本案是日本首次将生成AI制作的虚拟人物淫秽图片明确定性为犯罪并采取法律行动。

日本金泽大学法学院教授长濑贵志在接受采访时表示：“新技术在带来便利的同时，也不可避免地存在被滥用的风险。此次案件明确显示生成式AI技术同样难逃这一现实问题。”他指出，判断何为“淫秽”一直以来都涉及与宪法保护的言论自由之间的权衡，今后应根据新技术特点持续进行讨论。

比如日本的某些浮世绘春画也涉及明显暴露性器官，按照现行标准严格来说也属于“淫秽物”的范畴，但又基于其特殊的历史、文化和艺术背景，在现实司法操作中，往往被排除在严格管制范围之外，或被赋予宽松的特殊地位。这种看似矛盾却又合情合理的做法，也体现了日本法律及社会在处理文化传统与现代法律之间的复杂关系时，保持的一种暧昧

与此同时，围绕使用生成AI制作儿童色情图片的问题也引发了监管的激烈讨论。日本现行《儿童色情禁止法》明确禁止制作和传播涉及未满18岁儿童的性相关图片。

日本法务省表示，如果AI生成的儿童色情图片能够追溯到实际存在的儿童原型，那么可能适用于该法案进行处罚。然而，目前的法律尚难以涵盖纯虚拟生成的儿童图片。

今年4月1日，日本鸟取县正式实施了修订后的《青少年健全育成条例》，明确将通过AI技术将未满18岁青少年的面部照片合成为不雅图片或视频的行为界定为儿童色情行为，予以严格禁止。

此外，国际上也不断加大对此类违法行为的打击力度。欧洲刑警组织（Europol）今年宣布，在19个国家逮捕了25名涉嫌运营AI生成的虚拟儿童性虐待内容网站的嫌疑人。

虽然受害者并非真实存在的儿童，但该组织强调此类内容助长了针对未成年人的性犯罪行为，必须予以严厉打击。

日本科学技术担当大臣城内实也表示，“恶意利用AI的行为不可容忍，应依照现行法律严肃处理。日本政府已在本届国会上提交相关法案，将强化监管协调机制，全面高效应对AI滥用所引发的各类问题。”

此次案件表明，即使是生成式AI所制作的虚拟人的色情图片，在日本也不是法外之地，相关法律将严格适用。

最后，大家有无发现这些年日本女犯罪人的颜值都挺高的？