一张普通照片,被下载、上传,再交给AI处理,可能只需要几十秒,照片里的人就会被安排进一段根本没有发生过的色情画面。
更麻烦的是,这种工具早已不是少数技术爱好者的玩具。全球具备一键脱衣功能的AI应用,累计下载量已经接近7亿次,收入超过1.17亿美元。被盯上的人,有明星和网红,也有同学、同事、邻居,甚至还没成年的孩子。
![]()
问题来了,为什么一张公开照片,会突然变成别人牟利和羞辱的材料?
去年夏天,香港大学就曝出过一起案件。一名法律系男生的电脑里,保存了700多张合成色情图片,涉及数十名女性。图片中的人并不是什么遥不可及的公众人物,而是他的同学、朋友,还有中学时期的女老师。
前女友借用电脑时,意外发现了这些内容。事情曝光后,校方最初只是发出警告信,要求男生道歉。受害女生投诉后,还曾在一个学期里四次在课堂见到对方。
照片是假的,伤害却落在了真人身上。更尴尬的是,当时香港相关法律中,并没有一条能够直接对应制造他人不雅合成图的罪名,处理自然出现了空档。
![]()
这也是很多受害者最无力的地方。图片没有拍过,场景没有发生过,可同学、老师和同事每天都可能面对这张脸。删掉一张图,能不能解决被传播、被保存、被议论的问题?
日本警方公布的情况,也说明问题已经进入校园。2025年一年内,日本警方处理了114起未成年人影像被性化加工的案件,超过一半的加害者是受害人的同班同学,或者来自同一所学校的师生。
其中一名初中男生,甚至花钱找成年人帮忙,把女同学发布在社交平台上的照片改成裸照,再转卖给班里其他男生。韩国教育部门此前公布的400多起校园深伪案件中,还有十几起涉及小学生。
孩子为什么会成为高风险人群?工具学起来太快,而对法律后果和他人边界的判断,还没有跟上。
![]()
很多人以为,制作这类图片至少需要专业设备和复杂软件,其实并不难。常见方式包括换脸,把色情视频中的演员脸部换成目标人物。另一种就是一键脱衣,AI根据一张穿衣照片,凭空重绘身体细节。
现在的模型还不满足于静态图片。它可以让人物动起来,甚至加上声音和动作,制造出一段原图里根本不存在的视频。海外科技监督机构曾测试过一款免费应用,只用一张虚构女性穿毛衣、牛仔裤站在咖啡馆里的照片,几十秒后就生成了半裸跳舞视频。
不用专业知识,不用购买设备,很多时候连费用都不需要。门槛一旦低到这种程度,受害者数量自然会迅速增加。
这门生意也已经形成了套路。国内检察系统披露过一起案件,一名姓孙的男子从三年前开始研究AI绘图,发现带色情暗示的内容更容易涨粉,就在境外平台开频道引流。
![]()
他把裸体图片制作教程做成付费课程,入群费用从三十几元涨到160多元,还设置了专门接单的群。客户想合成谁,学员就负责动手。整个社群前后聚集了2.7万人,其中专门学习一键脱衣的付费小群有1500多人。
孙某个人获利十多万元,最后因非法利用信息网络罪被判处一年半,并处罚金2万元。这个案件说明,AI色情图并不是几个人私下胡闹,而是有人在教,有人在学,还有人把它包装成课程和服务。
更让平台治理头疼的是,相关应用并不总躲在地下。年初,有海外机构统计发现,Google Play和苹果App Store中,合计有100多款具备脱衣或性化改图功能的应用。部分应用甚至被标注为全年龄适用。
这7亿次下载,正是在一次次安装中积累起来的。应用商店有审核机制,为什么仍会出现这种软件?因为它们往往会换名字、换包装,把敏感功能写成娱乐滤镜、写真生成或形象编辑,真正的用途要等用户打开才看得出来。
![]()
社交平台同样会放大风险。年初,X平台曾出现一场风波。一名巴西女歌手跨年时发布了穿红裙抱猫的照片,随后有人要求平台内置AI助手把照片改成比基尼版本。图片传播后,跟风者不断增加,要求也越来越露骨。
有组织估算,在那场风波持续的十多天里,X平台出现了大约300万张性化图片,其中约2.3万张涉及未成年人。舆论压力上升后,平台才紧急收紧相关权限。
平台为什么总是慢半拍?因为图片可能不是在平台内部生成的,而是在个人电脑、手机或境外服务上完成,然后通过私聊、群组和其他网站传播。平台能审查自己服务器上的内容,却很难看见用户在家里做了什么。
开源模型又把这件事推得更远。说白了,闭源模型像一家有老板盯着的厨房,能做什么,最后由公司控制。开源模型则像把菜谱和厨具都分发出去,别人下载后可以自行修改,做出什么内容,原平台不一定知道。
![]()
牛津大学研究人员曾统计,网上流传的、专门用来生成特定真人形象的AI模型变体接近3.5万个,累计下载量接近1500万次。有些平台删掉模型后,文件又被复制到别的网站重新上传。删除一个页面,并不等于收回已经进入无数电脑和手机的副本。
这并不意味着所有AI换脸和图像生成工具都只会带来伤害。经过本人同意的影视特效、虚拟试衣、广告创作,都可能使用类似技术,区别就在于是否取得授权,是否故意制造色情内容,是否拿真人照片牟利。真正需要盯住的,不是AI会不会生成图片,而是谁在使用,生成了什么,又把它发给了谁?
国内这两年正在补上监管缺口。清朗专项行动已经把一键脱衣列入整治范围,AI生成内容标识办法也开始落地。今年3月开始实施的新办法,把带有性暗示、性挑逗的信息明确列入对未成年人有害内容范围。
9月初,网信部门还通报了一批案例,点名抖音、快手、小红书和微信上的相关账号。这些账号利用AI换脸、换声冒充公众人物,制作低俗内容并从中牟利。
![]()
规则在收紧,技术却还在快速变化。今天能识别的关键词,明天可能换成新的说法。今天被删掉的图片,也可能早已被转发到多个群组。
普通人能做什么?照片不用完全不发,但尽量减少高清正脸照长期公开,尤其是孩子的校服照、校门照和带有姓名信息的照片。发现合成色情图,不要继续转发,也不要抱着看热闹的心态保存,及时举报,保留页面、账号和传播时间等证据。
家长也该把这件事讲清楚。不能只告诉孩子不要乱发照片,还要让他们知道,拿同学照片制作色情内容,不是恶作剧,更不是技术炫耀,可能给别人造成持续伤害,也可能触碰法律底线。
AI让照片更容易被加工,也让每个人都必须重新理解隐私。你发布的那张合影,可能只是生活记录,但到了别人手里,未必还由你决定它会变成什么。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.