欧盟就“弱化版”AI法案达成初步协议，禁止深度伪造色情内容

IT之家 5 月 7 日消息，欧盟成员国与欧洲议会议员已就弱化版的人工智能法案达成初步协议，这是是欧盟委员会所谓的“数字一揽子计划”的一部分。

欧洲议会在周四凌晨发布新闻稿称，经过深夜谈判，各方达成临时协议，决定推迟人工智能系统部分合规义务的生效时间，以避免法律适用不确定性。

各方商定，将高风险人工智能系统相关法规的生效时间，从原定今年 8 月 2 日推迟至 2027 年 12 月 2 日。这类高风险系统涵盖生物识别、关键基础设施、教育、就业、执法及边境管理等领域。

协议还同意将机械设备排除在人工智能法案管辖范围之外，理由是机械设备只需遵守其现行适用的行业安全法规即可。

批评人士认为，欧盟两大立法机构此举是向企业压力作出妥协让步。

人工智能生成内容强制水印标注规定将于今年 12 月 2 日正式实施。

塞浦路斯欧洲事务副部长玛丽莱娜・劳乌纳在声明中表示：“此次《人工智能法案》达成协议，通过降低企业常态化行政成本，为本国企业提供了有力支持。协议保障了法律确定性，让相关法规在欧盟范围内落地实施更顺畅、标准更统一，同时也强化了欧盟的数字主权与整体竞争力。”

目前塞浦路斯担任欧盟理事会轮值主席国。

禁止“裸照生成”类应用

欧盟成员国与欧洲议会谈判代表还达成共识，禁止利用人工智能应用制作未经授权的色情深度伪造内容。

相关内容包括图片、视频及音频。相关企业需在今年 12 月 2 日前完成系统合规整改。

此次拟定的禁令还明确将制作儿童性虐待相关虚假影像内容纳入管控范畴。

欧盟此次修订举措，在很大程度上是对今年年初相关事件的回应：当时有用户利用美国富豪埃隆・马斯克旗下的人工智能聊天机器人 Grok，在网络上生成并传播数百万张由 AI 制作的女性及儿童色情影像。

声明指出：“我们正加大对儿童的保护力度，防范人工智能系统带来的相关风险。此次协议充分证明欧盟各机构具备快速行动、兑现承诺的能力。”

简化监管配套举措

IT之家注意到，欧盟《人工智能法案》已于 2024 年 8 月正式生效，核心条款将分阶段逐步落地实施。

此次周三达成的修订方案，是欧盟委员会推进简化各类新兴数字监管法规工作的一部分。该协议后续还需经欧洲议会全体会议及欧盟各国政府正式批准，而这一流程普遍被认为只是例行程序。