9月起施行！AI换脸拟声迎强监管

中国商报（记者 赵熠如）AI技术换脸拟声的现象迎来了强监管。近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称标识办法），进一步规范人工智能生成合成内容标识活动。

聚焦生成合成内容标识

国家互联网信息办公室有关负责人表示，标识办法聚焦人工智能“生成合成内容标识”关键点，通过标识提醒用户辨别虚假信息，明确相关服务主体的标识责任义务，规范内容制作、传播各环节标识行为，以合理成本提高安全性，促进人工智能在文本对话、内容制作、辅助设计等各应用场景加快落地，同时减轻人工智能生成合成技术滥用危害，防范利用人工智能技术制作传播虚假信息等风险行为，推动人工智能健康有序发展。据悉，标识办法自2025年9月1日起施行。

“标识办法的出台标志着人工智能内容治理迈入新阶段，通过构建治理框架、保护用户知情权等措施，来引导技术向善和促进行业规范发展。其落地将推动人工智能产业有序创新，在为技术应用划定安全边界的同时，也为全球AI治理贡献实践经验‌。”资深电信行业分析师马继华告诉中国商报记者。

“标识办法能够有效遏制虚假信息、政治谣言等高风险内容的传播，防范技术滥用对经济社会稳定造成的威胁。与此同时，该办法能防止恶意利用AI技术从事造谣、诈骗、诽谤等违法行为，降低了误导风险，保障用户的知情权、人格权、财产权等合法权益。”中国传媒大学文化产业管理学院法律系主任郑宁告诉中国商报记者。

规定显式和隐式标识

标识办法对生成合成内容的显式标识和隐式标识分别做出了详细规定。

标识办法明确服务提供者应当对文本、音频、图片、视频、虚拟场景等生成合成内容添加显式标识，在提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识；应当在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息；应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户仔细阅读并理解相关的标识管理要求。

“标识办法中提出的显式和隐式标识在实际应用中各具特点。”马继华说，“‌使用显式标识‌，用户可直接感知（如文字提示、语音播报）。这种方式可以提升信息透明度，适用于社交媒体、新闻资讯等需要即时辨别的场景，有助于用户知晓哪些内容是AI制作的，从而对内容有所辨别。当然，这种显式识别在某些场景中可能显得‘突兀’，影响用户体验（如视频标识干扰观看），且标识易被恶意篡改或规避，需配合动态检测技术强化执行‌。”

“如果使用隐式标识，也就是通过元数据、数字水印等技术手段嵌入信息，最大限度不影响内容呈现，适用于版权保护、溯源追责等长期性需求‌。但隐式标识需配套专业工具解析隐式标识，普通用户难以自主识别；技术实现成本较高，中小型企业可能面临合规压力‌。”马继华说。

不得恶意删除篡改标识

标识办法明确，互联网应用程序分发平台在应用程序上架或者上线审核时，应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的，互联网应用程序分发平台应当核验其生成合成内容标识的相关材料。

与此同时，标识办法提出，任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或者服务，不得通过不正当标识手段损害他人合法权益。

对于有效落实标识规定及对违规行为进行监测和惩处，郑宁认为，要加强技术手段、压实平台责任、加强协同监管、加强社会共治。通过宣传教育，提高公众对AI生成内容的辨识能力，增强对标识重要性的认识。鼓励AI企业和内容平台主动遵守规定，建立行业自律机制，推动形成良好的行业生态。