中国留学生制作1141条深伪色情内容，被判1年半

一名在韩中国留学生，因为利用人工智能制作大量深度伪造色情内容，被韩国法院判处实刑。

9月10日，首尔北部地方法院刑事第五独任庭对30岁的中国籍A某作出一审判决。法院以违反韩国《性暴力处罚法》、惯常制作虚假影像等罪名，判处其有期徒刑1年6个月，同时要求接受40小时性暴力治疗项目，并在今后5年内禁止进入儿童、青少年相关机构以及残疾人福利设施工作。

6个月制作1141条，受害者都是现实中的熟人

根据法院认定的犯罪事实，A某从2025年11月开始，在大约6个月时间里利用AI技术，将研究室同事等7名受害者的脸部照片合成到色情视频和图片中，总共制作了1141条深度伪造性剥削内容。受害者并不是网络上的陌生人，而是与其现实生活存在接触的同一大学研究室成员等熟人。

这一点也是案件引起韩国舆论关注的原因之一。深度伪造色情并不一定需要真实拍摄受害者的裸露影像，只要掌握公开照片、SNS头像或日常照片，就可能通过AI生成极具迷惑性的虚假内容。对于受害者来说，即使这些影像从未真实发生，看到自己的脸被放进色情场景中，依然会造成明显的羞辱感、恐惧和长期心理压力。

更值得注意的是，警方调查过程中还发现，A某曾搜索如何绕过生成式AI“Grok”的安全装置。也就是说，这并不是单纯误用某个普通图片功能，而是至少存在主动研究如何突破AI限制的行为痕迹。

检方求刑3年，法院最终判了1年6个月

此前检方曾向法院求刑3年，并要求公开被告人的身份信息，同时责令其接受性暴力防治教育。但法院最终判处1年6个月，并没有接受检方提出的全部请求。

法院在量刑理由中明确指出，被告人多次对同一大学研究室学生的照片进行编辑、合成和加工，从犯罪经过、数量和内容来看，行为性质恶劣、罪责较重。而且A某并没有取得受害者谅解，这一点也被法院列为不利因素。

不过，法院同时考虑到A某已经承认全部犯罪事实，并表现出悔过态度，此前没有刑事处罚记录，目前也没有证据证明其制作的深度伪造色情内容已经向外传播。综合这些因素后，法院最终将刑期定为1年6个月，而不是检方要求的3年。

“没有传播”并不等于危害很小

这起案件中，一个很容易被误读的地方，就是法院提到“没有发现传播证据”。

这并不意味着法院认为制作行为本身问题不大。相反，判决已经明确认定，A某反复针对现实中的熟人制作超过1000条性剥削影像，犯罪数量大、持续时间长，而且对象具有明确针对性，因此本身就构成严重犯罪。所谓“未发现传播”，只是法院在决定具体刑期时考虑的一个从轻因素。

对于受害者来说，即使相关影像没有被上传到网络，也并不代表伤害消失。此前庭审中，5名受害者的代理律师表示，受害者直到现在仍然持续感到恐惧、创伤和痛苦，并请求法院从严处罚。

A某曾向受害者分别缴纳700万韩元作为刑事公托金，但受害者拒绝领取。法院在判决中也提到了这一点，说明金钱补偿并没有换来受害者的谅解。

为什么现在AI深伪色情越来越难管

这类案件的危险之处，在于制作门槛正在快速下降。

过去要伪造一段相对逼真的视频，通常需要专业剪辑和图像处理技术。现在生成式AI和换脸工具已经把操作难度大幅降低，只要拥有一张清晰脸部照片，就可能在很短时间内生成大量虚假影像。

技术门槛降低以后，犯罪对象也开始从明星和公众人物扩展到普通人、同学、同事甚至熟人。尤其研究室、学校和职场这类环境中，人与人之间本来就能接触到大量照片和社交账号，一旦有人恶意使用AI，受害者甚至可能完全不知道自己的脸已经被用于制作色情内容。

韩国近几年已经连续加强针对深度伪造色情内容的法律规定，不只是传播者，制作和持有特定类型的虚假性影像本身也可能受到刑事处罚。随着案件数量增加，警方和法院在判断犯罪严重程度时，也越来越关注制作数量、对象是否为现实熟人、是否存在传播，以及是否存在反复、有计划的行为。

AI安全限制被主动绕过，更值得警惕

这起案件还有一个细节值得关注：A某曾主动搜索绕过Grok安全机制的方法。

很多生成式AI平台本身都会限制裸露、色情、真实人物换脸等高风险内容，但只要有人不断尝试规避关键词、修改指令或者寻找所谓“破解方法”，安全机制仍可能被绕开。平台如何提高识别能力、限制真实人物被用于性内容生成，也正在成为AI企业必须面对的问题。

从这个角度看，案件并不只是一个留学生个人犯罪问题，也反映出生成式AI时代新的监管难题。技术本身可以用于正常学习、创作和研究，但当制作门槛越来越低以后，平台安全、刑事处罚和数字伦理就必须同步跟上。

对在韩外国人来说，也是一堂很现实的法律课

这起案件中的被告人具有中国籍留学生身份，因此在中文网络上也容易受到关注。但真正值得提醒的，不应该只是“外国人在韩国犯罪会被判刑”，而是很多人可能仍然低估了AI换脸在韩国法律中的严重程度。

将现实中的同学、同事或其他熟人照片用于制作色情内容，即使没有公开发布，也可能已经构成刑事犯罪。一旦被判处实刑，除了服刑本身，还可能继续面临性暴力治疗、就业限制以及之后的出入境和居留问题。

此次法院最终判处A某1年6个月，并没有认定其行为“只是网上恶作剧”。相反，1141条内容、7名现实受害者以及长达6个月的反复制作，已经让这起案件从普通的AI滥用升级成严重的数字性犯罪。

AI让伪造一张脸变得越来越容易，但法律判断的重点并不会因此改变。只要虚假影像侵害了真实人物的性自主权和人格权益，“图片是假的”并不能成为免责理由。