2023年初,当李薇在社交媒体上看到“AI表情包制作”的广告时,她毫不犹豫地上传了五十多张自拍照。
广告承诺,只需几分钟,她就能看到自己变成各种卡通形象的有趣效果。
她不知道的是,这些照片一去不复返,成了某AI训练数据库里永久的数字资产。
![]()
一年后,她的朋友发来一个链接,点开是一个名为“虚拟女友”的聊天应用,里面有个数字人与李薇惊人地相似,同样的脸型、同样的微笑弧度,甚至模仿了她的表情习惯。
“我感觉自己被数字幽灵附身了。”李薇说这话时,声音里带着颤抖。
![]()
时间回到2022年,AI图像生成技术正迎来爆发期。
像李薇这样的普通人,被各种有趣的AI应用吸引,在不知不觉中交出了自己的生物特征数据。
当时流行的不只是表情包生成器,还有各种“衰老预测”、“古风装扮”、“明星脸匹配”等轻量级应用。
它们以娱乐的形式出现,却悄悄收集着用户的面部数据。
张明是一名平面设计师,2022年夏天,他参与了一个“AI艺术创作”的实验项目。组织者要求参与者提供100张不同角度的人脸照片,承诺会生成专属的艺术画作。
![]()
“我当时觉得这很酷,还特意选了不同光线、不同表情的照片,想让效果更好。”张明回忆道。
几个月后,他在一个开源数据集里发现了自己的脸。那些精心拍摄的照片,已经成了某个知名AI绘画模型的训练素材。
更让他不安的是,这个数据集被下载了上万次,意味着他的面部特征可能被用在世界各地他完全不知道的项目中。
![]()
而那些曾经主动提供数据的人,也开始尝到了苦果。
赵女士曾经是一家AI公司的数据标注员,她的工作包括为自己的面部数据打标签。
当时她觉得这是为了科技发展做贡献,甚至还拉来亲朋好友一起参与。
2024年初,她在某个成人网站上看到了自己的数字分身。那个用AI生成的虚拟人物,有着她的面容,却在进行着她从未想过的表演。
“我当场就吐了。”赵女士说,“那种感觉就像被当众剥光了衣服,而且你永远无法证明那不是你。”
![]()
她尝试联系网站要求删除内容,但对方服务器设在国外,根本不予理会。更绝望的是,由于AI生成内容的特殊性,法律维权变得异常困难。
![]()
在发现自己的面部数据被滥用后,大多数人的第一反应是寻求法律帮助。但现实往往令人失望。
陈律师处理过多个类似案件,他表示:“目前的法律体系在应对AI数据侵权方面还存在很多空白。受害者往往面临举证难、认定难、赔偿低三大难题。”
2023年底,一位网红发现自己被AI“换脸”到不雅视频中,将制作方告上法庭。
经过半年审理,虽然胜诉,但仅获赔5万元,而侵权视频已经在网络上广泛传播。
![]()
“赔偿金额远远不足以弥补受害者的精神损失,更无法消除数字层面上的负面影响。”陈律师说。
另一个棘手问题是跨境侵权。由于很多AI服务提供商将服务器设在海外,受害者往往投诉无门。
在AI数据滥用的案例中,最令人心痛的是那些因为经济压力而“出售”自己生物特征的人群。
2023年,某AI公司以每小时200元的价格招募数据提供者,要求他们按照指令做出各种表情和动作。这在当时看来是相当优厚的报酬,吸引了不少经济困难的人。
![]()
小琳是一名大学生,为了支付学费,她参加了这个项目。
在连续三天的拍摄中,她需要重复做出微笑、惊讶、愤怒等表情,还要按照要求念出各种台词。
“当时觉得钱来得容易,就是做做表情、说说话。”小琳说,“直到后来在多个AI客服系统中听到自己的声音,在广告中看到自己的表情,我才明白我失去了什么。”
现在,每当接到骚扰电话,听到对方用AI模仿的亲人声音,小琳都会想起那个决定:“我们为了眼前的利益,交出了最宝贵的生物特征,这可能是这个时代最不平等的交易。”
![]()
对于那些已经“卖脸”的人来说,后悔往往来得太迟。
吴先生曾经是一家AI创业公司的早期用户,为了体验最新的表情识别功能,他提供了大量面部数据。
如今,他在各个AI应用中都看到了自己数据的“衍生品”。
“最讽刺的是,我现在每天上班要用的门禁系统就采用了人脸识别,而我却开始害怕这种技术。”吴先生说,“我明知道自己的面部特征可能已经被泄露,却不得不继续使用。”
对于这些情况,官方层面已经开始注意到了。
2024年3月,欧盟通过了《人工智能法案》,对生物特征数据的采集和使用设置了严格限制。
中国也在加紧制定相关法律法规,平衡技术创新与个人权益保护。
![]()
在纽约时代广场的巨型屏幕上,一个逼真的数字人正在微笑着向路人问好。
那张脸属于三年前因为五百美元而出售自己面部数据的女模特,如今她已无法追回自己在数字世界的“分身”。
当AI学会模仿人类的一切,当真实与虚拟的界限日益模糊,我们每个人都应该思考:在技术进步的浪潮中,如何守护好那个唯一的、真实的自己?
参考资料
1.南方都市报 《AI训练数据背后的隐私隐忧:你的照片可能正被用来“喂”模型》
2.第一财经 《生物特征数据交易调查:谁在买卖我们的“脸”?》
3.财新网 《AI数字分身侵权第一案背后的法律困境》
4.纽约时报 《We Signed Away Our Faces》
5.澎湃新闻 《当AI开始复制人类:生物特征数据的安全边界在哪里》
(老A)
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.