平台开展专项行动治理“AI 起号”！南都曾曝光相关产业链

5月19日，南都记者从抖音官方获悉，该平台近期开展专项行动治理“AI 起号”现象，累计清理311条违规内容。此前，南都、N视频辟谣专栏《真假即时查》调查发现，为起号引流涨粉，不法分子的手段逐渐升级，形成了“起号、转型、转卖”的灰色产业链。

南都此前报道。

19日，“抖音黑板报”官微公告称，人工智能技术的迅猛发展极大地丰富了互联网内容生态，但部分人员将AI用于造假、利用AI起号，贩卖AI账号，严重破坏平台生态。2023年与2024年，抖音相继发布了《关于人工智能生成内容的平台规范暨行业倡议》以及《关于不当利用AI生成虚拟人物的治理公告》。平台在公告中明确表示，不鼓励利用AI生成虚拟人物开展低质创作活动。同时，对于违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣内容的行为，将予以严格处罚。

公告透露，近期，抖音开展专项行动治理“AI 起号”现象，重点整治利用AI生成低俗猎奇视频、AI生成虚拟外国幼儿教育专家教授育儿内容、AI视频账号售卖教程、AI账号秘籍传授、引导规避平台AI标注、转让销售AI虚拟账号等行为。

在平台站内，累计清理311条违规内容，针对心x甜、向xAi同城流量、瑞xxAI智习室等15个严重违规账号进行了封禁。

抖音提醒广大用户，以任何形式赠与、借用、出租、转让、售卖账号均属违规行为，也欢迎各位创作者在合理合法使用 AI 创作的同时积极对生成内容进行标注声明。

南都此前报道，网络虚假信息已成社会公害，有时甚至真假难辨。南都、N视频辟谣专栏《真假即时查》调查发现，当前，为起号引流涨粉，不法分子的手段逐渐升级。他们利用AI深度伪造，误导公众认知，快速起号后，开始带货、卖课等。有的被明码标价放到账号交易网站上，形成“起号、转型、转卖”的灰色产业链。

近期，四部门联合发布《人工智能生成合成内容标识办法》，要求对人工智能生成合成内容进行显示标识和隐式标识。实际上，绝大多数社交平台均明令禁止账号转卖行为。

“现在造谣造假的成本非常低，还有一些可以免费使用的AI工具。”北京邮电大学互联网治理与法律研究中心执行主任谢永江向南都记者介绍，网络虚假信息是长期以来的顽疾，AI只是让传播变得更加便捷。为防范AI技术滥用风险，有关部门正在行动。

采写：南都记者 马辉