北京互联网法院：为治理电商平台AI“声替”乱象提供指引

司法为治理电商平台AI“声替”乱象提供规范指引。9月10日，北京互联网法院发布涉人工智能案件审理情况并通报8起典型案例。

在一起网络侵权责任纠纷案中，法院认定未经权利人许可使用AI合成的名人声音用于“带货”构成侵权，委托推广商家应承担连带责任。

案情显示，原告李某某系教育、育儿领域知名人士。2024年，其发现被告某文化传媒公司在其网络店铺中，使用原告的肖像及高度近似的AI合成声音，对家庭教育类图书进行宣传带货。该声音系基于原告公开视频合成，用于推介被告所售书籍。原告认为，该行为利用其形象、专业影响力误导消费者，构成对肖像权及声音权的侵害。被告作为委托方和书籍销售者，与视频发布者（带货主播）系委托推广关系，被告对该视频内容负有审查义务，应共同承担侵权责任。

法院认为，涉案AI合成声音与原告音色、语调及发音风格高度一致，结合原告在该领域的知名度，易使公众产生关联，该合成声音属于原告声音权益的保护范围。被告未经授权使用原告肖像和合成声音制作推广视频，构成对原告肖像权及声音权的侵害。

法院同时认定，被告公司与视频发布者之间存在委托推广关系，双方共同以推介获利为目的，且被告基于平台规则与管理权限，具备对视频内容的审核能力。被告对视频使用原告肖像及高度仿真声音可能引发的侵权风险应有所预见，并负有审查是否获授权的义务，但被告未尽到该义务，因此应与视频发布者承担连带侵权责任。

为此，法院判决被告公司赔礼道歉并赔偿经济损失及合理支出，其他诉讼请求驳回。双方均未上诉，判决已生效。

“随着生成式人工智能技术的迅猛发展，名人声音被‘克隆’冒用越来越真假难辨，造成声音侵权现象泛滥，消费者极易被误导。”法院在阐述案例典型意义时表示，本案明确，利用AI深度合成技术合成的自然人声音，只要能够使一般社会公众或相关领域公众根据其音色、语调、发音风格等识别出特定自然人，即具有可识别性，应纳入该自然人声音权益的保护范围。同时，在商家委托视频发布者带货的法律关系中，作为委托方和实际获益者的平台商家，对其关联达人发布的推广内容负有合理审查义务，商家不能仅以“被动合作”“未参与制作”为由免责，未尽到审核注意义务的，需与带货达人承担连带责任，进而为规范电商推广行为、压实商家主体责任、治理AI“声替”乱象提供规范指引，推动人工智能与深度合成技术向上向善发展。