欧洲同意简化AI法案，要求禁止“脱衣换脸”类AI｜合规周报

21世纪经济报道记者肖潇 报道

每周，“合规周报”会盘点最近一周国外人工智能、科技竞争、个人信息保护方面值得关注的动态。

本周，我们重点关注AI、社交平台治理以及数据安全。AI领域方面，两个行业大事件让人在意：OpenAI 突然关停Sora，与迪士尼的十亿“版权合作”终结；从去年11月开始推进的欧盟《AI法案》简化，本周正式通过了欧洲议会投票。

此外你还会看到：奥地利拟立法禁止 14 岁以下儿童使用社交媒体，Meta因“成瘾性设计”被判罚四百多万美元，美团App自动删除手机照片，公司公开致歉并承诺赔偿。

欧洲议会正式同意简化AI法案

据IT之家报道，当地时间3月26日，欧洲议会投票通过了对《AI法案》的简化计划，这意味着《AI法案》修订即将进入最终环节。

这部被称为里程碑式的全球首部AI法案，早从2024年8月起开始分批实施，但在去年11月按下暂停键。当时的修改提案提出，原本明年8月生效的高风险AI系统条款，计划延迟到最晚2028年8月。同时，谁来监管ChatGPT等通用大模型、能不能拿用户数据训练AI，也有明显改变。

目前欧洲议会确定了延迟日期：对于高社会风险AI系统，法案的生效日期拟为 2027 年 12 月 2 日；产品安全监管下的AI系统，生效日期提议为2028 年 8 月 2 日。

同时，欧洲议会希望引入一项新的禁令，禁止使用AI生产性露骨或私密图像，尤其是未经当事人同意将真人照片“裸体化”。此前Grok AI被用来一键脱衣，并且马斯克允许这类功能和内容在X上传播，在全球引起了巨大批评声。

《AI法案》目前只差与欧盟理事会的最终谈判了，不过修订《通用数据保护条例》（GDPR）的方案还在欧洲议会的审议中。如果通过修订，其影响很可能比AI法案更大，因为新的GDPR可能会允许AI公司依据“合法利益”，在训练AI的过程中使用用户数据或是互联网抓取数据。

长期跟踪欧盟监管动态的专家此前向我们指出，简化GDPR面临的争议更大，推进很可能更慢。

社交平台正在绞尽脑汁，区分人类和AI机器人账户

全球最大论坛社区Reddit最近在研究一套新的用户身份验证机制。AI Bot (AI机器人账户）和AI虚假内容正在明显影响社区氛围，据Reddit CEO 斯蒂夫·霍夫曼透露，公司希望能验证用户是真人而非机器人。

“最便捷的方式是使用像Face ID或Touch ID这样的设备，”霍夫曼在采访中说道。“它们实际上需要真人到场，比如真人必须触摸、操作或查看某些东西，至少能证明那里有人类。”

Touch ID属于最轻便的方式，公司还考虑了更严格的人脸识别和身份证件验证，但无论哪种验证方案都会与Reddit强调匿名、隐私的社区特征冲突。霍夫曼因此强调，Reddit仍将优先保护用户匿名性：“我们对用户的承诺是，我们不会知道你的名字，但我们希望确认你是一个真实的人。”

如何同时保持内容真实性和隐私友好，对社交平台是越来越急迫的问题。Reddit长期存在机器人账户和灌水点赞的问题。而随着AI兴起，社区进一步被大量模仿人类的机器人账号淹没，它们会用AI生成信息回复真实用户，Reddit充斥着“到底是机器人还是真人”的猜疑帖子。

国内亦有平台已经采取措施。3月初，小红书更新了社区治理公告，严禁任何利用技术手段模拟真人、进行非真实内容创作或虚假互动的行为，对疑似AI托管类账号会实行警告、限流和封禁。

OpenAI 关停Sora，与迪士尼的十亿“版权合作”终结

OpenAI于当地时间3月24日突然宣布，将关闭其曾经爆红的Sora视频生成应用，App、API接口服务以及Sora.com网页版都将停止运营。

外界认为，视频生成领域的算力分配和竞争压力巨大，关停的直接原因来自战略调整。OpenAI表示，Sora研究团队将继续专注于世界模型的研究，以推进机器人技术的发展。

另一个潜在原因是版权纠纷的压力。视频生成大模型在海外遭遇版权起诉不断。此前迪士尼起诉OpenAI后，两家公司宣布了一项为期三年的握手合作协议，允许Sora用户使用迪士尼旗下米老鼠等200多个标志性角色生成AI视频，而迪士尼会为OpenAI带来十亿美元的投资。不过Sora关停后，这项里程碑式的版权合作项目也宣告流产。

最新报告显示，AI应用收集的个人数据激增

网络安全公司 Surfshark 在3月24日发布了一份最新报告，显示AI 应用正大肆收集用户联系方式与浏览记录。目前高达70%的AI应用会获取用户位置信息，该比例在 2025 年仅为40%。

Surfshark的数据显示，按照苹果应用商店的 35 种数据分类标准，一款AI 应用平均收集 14 种用户数据。其中Meta AI 收集多达 33 种数据，占比约 95%，也是唯一获取用户财务信息的 AI 应用。

ChatGPT 的数据收集量呈现激增态势。其收集的数据类型从 10 种增至 17 种，同比暴涨 70%，新增收集范围包含粗略位置、健康与健身数据、音频及广告数据。

“与传统搜索引擎不同，AI会处理高度敏感的输入内容，例如税务文件和医疗记录，这些信息可能会被分享到庞大的第三方网络，用于定向广告。为了保护隐私，你必须将每一次提示都视为公开记录：检查设置，禁用聊天记录存储，永远不要分享你不想公开的信息”，公司发言人在采访中建议道。

美团App自动删除手机照片，公司公开致歉并承诺赔偿

从3月18日起，多位网友反映，发现美团App自动删除用户手机内的数百张照片，且无法恢复。

3月24日，美团公开致歉并承诺全额赔偿。美团客服表示，目前累计有180多位用户进线客服咨询，预计潜在波及用户范围约在数百人。

删照片事件，进一步引发了公众对App权限管控的关注。美团的官方回应称：该问题主要是安卓系统在极少数情况下，App自动缓存清理时，遇到第三方SDK冲突导致异常。本次事件仅发生在用户本地手机系统层面，美团App不会读取、存储或转移任何用户个人数据，用户隐私及账户信息均未受到影响。

Meta、谷歌被判要为“社交媒体成瘾”负责

当地时间3月25日，美国洛杉矶陪审团做出首个判定，要求科技巨头为“让人上瘾”的社交产品负责。

在该案中，原告将矛头直指 Instagram 和 YouTube 无限滚动、自动播放视频等功能，这些能延长用户使用时间的设计，被认定对青少年原告造成了伤害。陪审团最终裁定，Meta 和 Google 需要为此承担 420万美元和180万美元的赔偿。

本次判决亮起了一个重要的红色信号灯。据统计，美国眼下还有 2400 起类似诉讼正在进行中，它们聚焦于社交平台的设计缺陷，要求科技巨头对青少年用户的心理健康危机负责。欧盟委员会前不久也初步认定，TikTok的成瘾性设计违反法规，要求平台进行调整。

奥地利拟立法禁止 14 岁以下儿童使用社交媒体

据IT之家报道，当地时间3月27日，奥地利政府宣布，将立法禁止 14 岁以下儿童使用社交媒体，草案将于今年 6 月底前出台。

奥地利政府责任人表示，政府不能再坐视平台算法导致儿童成瘾甚至引发心理疾病。新规将采用“特征限制”模式，限制“成瘾性算法”、“诱导延长使用时间”或“存在性暴力风险”的所有在线应用。

奥地利政府还表示，为了确保有效落地，将引入一种“两步式在线年龄验证”机制，希望既能核实儿童年龄隐私，又能降低隐私泄露风险。