抖音发布人工智能生成内容的平台规范暨行业倡议，引发业界关注

来源丨元宇宙简史

编写丨元宇宙简史主理人 Fun

【元宇宙导读】5月9日，抖音发布了关于人工智能生成内容的平台规范暨行业倡议，以及《抖音关于人工智能生成内容标识的水印与元数据规范》。

这是国内首个针对人工智能生成内容的平台规范，也是抖音在推进内容生态建设方面的一次重要举措。

该规范要求创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，应对人工智能生成内容进行显著标识，并对其产生的后果负责。

同时，该规范也提出了一系列的技术能力和行业倡议，旨在促进人工智能技术在内容创作领域的健康发展。

01、什么是人工智能生成内容？

人工智能生成内容，指利用生成式人工智能技术，自动生成的视频、图像、文本等内容。

生成式人工智能技术，是指利用深度学习等方法，从大量数据中学习特征和规律，并根据给定的条件或目标，自动创造出新的数据或内容的技术。

目前，常见的生成式人工智能技术有GAN（对抗生成网络）、VAE（变分自编码器）、ChatGPT（基于GPT模型的聊天机器人）等。

生成式人工智能技术在内容创作领域有着广泛的应用场景和价值。例如，GAN技术生成各种风格和主题的图片和视频，如动漫、油画、风景等；VAE技术进行图像编辑和转换，如换脸、换发型、换衣服等；ChatGPT技术进行文本创作和对话交互，如写小说、写诗歌、写评论、聊天等。

这些技术降低了创作的门槛和成本，丰富了互联网内容生态，为信息生产和传播带来了新的变革和机遇。

02、为什么需要对人工智能生成内容进行规范？

尽管生成式人工智能技术有着巨大的潜力和优势，但面临的风险和问题也非常多。

由于人工智能生成内容具有高度逼真和难以识别的特点，可能导致虚假信息、欺诈、诈骗等问题。

例如，不法分子利用GAN技术制造出虚假新闻、虚假证据、虚假证言等；利用VAE技术伪造出他人肖像、声音、签名等；利用ChatGPT技术编造出虚假评论、虚假评价、虚假推荐等。

这些问题可能会损害公众的知情权、选择权和信任感，影响社会秩序和公共利益。

同时，由于人工智能生成内容涉及到个人或集体的肖像权、知识产权等权益，可能导致侵权、盗版、抄袭等问题。

例如，不法分子利用GAN技术侵犯他人肖像权或隐私权；利用VAE技术侵犯他人版权或商标权；利用ChatGPT技术侵犯他人著作权或专利权等。

这些问题可能会损害原创者或权利人的合法权益，影响创新活力和文化多样性。

因此，在享受生成式人工智能技术带来的便利和乐趣的同时，也需要对其进行合理的规范和管理。这不仅是为了保护用户和社会的权益和安全，也是为了促进该技术本身的可持续发展。

03、抖音发布了哪些平台规范和行业倡议？

针对上述问题，抖音发布了关于人工智能生成内容的平台规范暨行业倡议。

该规范遵循以下三个理念：以人为本，尊重并充分保障个人权益；鼓励创作优质内容，禁止发布违规内容；坚持真实美好，避免虚假信息的生产传播。

基于这些理念，该规范提出了以下八条具体要求：

1、发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景；

2、发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的；

3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证；

4、禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚；

5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚；

6、平台将提供统一的人工智能生成内容标识能力，帮助创作者打标，方便用户区分；

7、平台将提供虚拟人的注册能力，并对已注册的虚拟人形象进行保护；

8、平台将提供用户反馈渠道，方便用户反馈违规生成内容。

此外，《抖音关于人工智能生成内容标识的水印与元数据规范》还详细说明了如何对不同类型的人工智能生成内容进行标识；如何对不同类型的人工智能生成内容，如视频、图片、虚拟人等，进行水印和元数据的添加、读取和验证。

该规范的发布，体现了抖音对人工智能技术在内容创作领域的积极探索和负责任的态度。

抖音作为国内最大的短视频平台，拥有海量的用户和内容。抖音不仅要保障用户的权益和安全，也要保持内容的质量和多样性，同时要遵守相关的法律法规。

在这样的背景下，抖音发布了关于人工智能生成内容的平台规范暨行业倡议，既是对自身的规范和约束，也是对行业的引领和推动。

该规范的发布，也反映了人工智能技术在内容创作领域的快速发展和广泛应用。

随着人工智能技术的进步和普及，越来越多的创作者和用户开始使用人工智能技术辅助创作或消费内容。

严正声明：本文为元宇宙简史原创，未经授权禁止转载！内容仅供参考交流，不构成任何投资建议。任何读者若据此进行投资决策，风险自担。