北京
文 | 刘淏煜
让“院士”代言护肤产品，让“演员”直播带货，用奥运冠军声音卖土鸡蛋……近期，利用AI换脸、语音合成等技术生成虚假内容谋取私利或虚构突发事件、编造公共政策、捏造社会民生谣言的热点事件多发。
AI合成乱象侵犯了相关人士的肖像权、声音权，还可能误导公众、损害消费者权益，甚至影响到社会信任乃至公共秩序。维护安全、清朗的网络空间，应明确使用AI技术的底线与红线。
内容标识，是遏制AI合成乱象的第一道“防火墙”。9月1日起施行的《人工智能生成合成内容标识办法》聚焦人工智能“生成合成内容标识”关键点，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，既为公众提供辨识真伪的标准，逐步形成“以标识为准”的意识，更为后续追责提供证据，从源头压缩恶意行为的生存空间。
尽管制度设计已明确各方主体责任与义务，实践中仍有不法分子通过“镜像翻转”“画中画遮挡”等技术手段规避和隐藏标识。可见，净化AI合成生态，破解AI造假困境，还需多方协同共治。
一方面，技术服务提供商和内容发布平台应严守标识规定，加大技术投入、强化内容审核，优化用户举报和维权通道，健全追溯、下架以及追责机制。另一方面，需持续完善相关规定，实现从内容生成到公共传播的全链条治理，以源头严防、过程严管、违规严惩，有效消除侵权造假的土壤。
技术发展唯有持续向善，方能持续向上。始终以规则护航发展，才能让AI真正成为推动社会进步的力量。■
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
