【人工智能】国内启动“清理整顿 AI 滥用行为”专项行动

2025年4月30日，国家 互联网信息办公室 启动为期三个月的“清理整顿人工智能技术滥用行为”专项行动，重点清理整顿利用人工智能技术侵犯他人知识产权、隐私权等权利的行为。网信办表示，“第一阶段将加强人工智能技术源头治理，清理整顿违法违规人工智能应用，加强人工智能生成合成技术和内容识别管理，推动网站平台提升检测识别能力。第二阶段将重点针对滥用人工智能技术制造发布谣言、虚假信息、淫秽色情低俗内容、冒充他人、从事网络水军活动等突出问题，集中清理相关违法不良信息，依法处理和处罚违规账号、多频道网络（MCN）和网站平台。”

据国家网信办介绍，第一阶段，重点整改六大突出问题：

• 一是未履行大模型备案或注册程序，提供非法人工智能产品；提供“一键脱衣”等违反法律和伦理的功能；未经授权和同意，克隆、编辑他人声音、人脸等生物特征信息，侵犯他人隐私。

• 二是教授、贩卖违法人工智能产品教程及产品。教授使用违法人工智能产品制作换脸视频、换声音频等教程信息。贩卖违法“语音合成器”、“换脸工具”等产品信息。营销、炒作、推广违法人工智能产品信息。

• 三是训练语料管理不严。使用侵犯他人知识产权、隐私权等权利的信息，使用从互联网抓取的虚假、无效、不真实的内容，使用非法来源的数据。未建立训练语料管理机制，未定期检查清理非法语料。

• 四是安全管理措施薄弱。未建立与业务规模相适应的内容审核、意图识别等安全措施，未建立有效的违规账号管理机制，未定期进行安全自评估。社交平台对通过API接口接入的AI自动回复等服务监管不明确，管控不严格。

• 五是内容识别要求未落实。服务商未在深度合成内容中添加隐式或显式内容识别，也未向用户提供或提示显式内容识别功能。内容传播平台未对生成的合成内容进行监控识别，导致虚假信息误导公众。

• 六是重点领域存在安全风险。已注册的医疗、金融、未成年人等重点领域问答服务的人工智能产品，未设置有针对性的行业安全审计和管控措施，存在“AI开药”“诱导投资”“AI幻觉”等问题，误导学生和患者，扰乱金融市场秩序。

第二阶段重点整改七大突出问题：

• 一是利用人工智能制造、发布谣言。编造涉及时政、公共政策、社会民生、国际关系、突发事件等各类谣言信息，或对重大政策进行任意猜测、恶意解读。利用突发事件、灾害等虚构、捏造事件起因、进展、细节等。冒充官方新闻发布会或新闻报道发布谣言。利用人工智能认知偏差生成的内容进行恶意引导。

• 二是利用人工智能编造发布虚假信息。将无关的图片、文字、视频等进行拼接编辑，生成信息混杂、真假参半的信息。模糊、修改事件发生的时间、地点、人物，翻旧账。编造发布夸大其词、伪科学等虚假内容，涉及金融、教育、司法、医疗等专业领域。利用人工智能算命、占卜等技术误导欺骗网民，传播迷信思想。

• 三是利用人工智能制作发布色情低俗内容。利用人工智能脱衣、绘画等功能，生成合成的色情内容或他人不雅图片、视频、软色情、衣着暴露、姿态妖娆等二次元边缘画面，以及丑陋等负面内容。制作并发布血腥暴力场景、扭曲人体、超现实怪物等恐怖怪诞图像。生成合成的“淫秽文字”和“黄色笑话”，以及带有明显性暗示的小说、帖子、笔记等。

• 四是利用人工智能冒充他人实施侵权违法行为。通过人工智能换脸、语音克隆等深度造假技术，冒充专家、企业家、明星等公众人物，欺骗网民，甚至进行营销牟利。利用人工智能恶搞、抹黑、歪曲、疏远公众人物或历史人物。利用人工智能冒充亲朋好友，从事网络诈骗等违法活动。不当利用人工智能“起死回生”，滥用逝者信息。

• 第五，利用AI进行网络水军活动。利用AI技术“养号”，模拟真人批量注册和运营社交账号。利用AI内容农场或AI洗稿，批量生成并发布低质量同质化内容，获取流量。利用AI群控软件和社交机器人批量点赞、发帖、评论，控制音量和评论量，打造热点话题上榜。

• 六是违反规定的人工智能产品、服务和应用。创建、传播假冒、套壳人工智能网站和应用。人工智能应用提供违规功能服务，例如提供“将热搜、热榜扩展为文字”等功能的创意工具，以及提供低俗、软色情对话服务的人工智能社交聊天软件。提供违规人工智能应用，生成合成服务或销售课程，推广、引流等。

• 七是侵害未成年人权益。人工智能应用诱导未成年人沉迷，未成年人模式中存在影响未成年人身心健康的内容。

免责声明：

本文所发布的内容和图片旨在传播行业信息，版权归原作者所有，非商业用途。 如有侵权，请与我们联系。 所有信息仅供参考和分享，不构成任何投资建议。投资者应基于自身判断和谨慎评估做出决策。 投资有风险，入市需谨慎。

关注我们，一起探索AWM！

2025-04-25

2025-04-24

2025-04-24