数字人主播纳入监管　以AI治AI筑溯源防线

（记者　陈锦锋）随着多模态AI、大模型与AIGC技术的深度融合，数字人产业正从“展示型”向“功能执行型”跨越。然而，技术狂飙的另一面，是数字人被滥用为传播虚假信息的工具。据中新社报道，近日，市场监管总局与国家网信办联合印发《直播电商监督管理办法》，首次将数字人主播纳入政策监管，明确要求AI生成内容需标识并持续提示消费者。这一举措标志着我国以“AI治AI”构建溯源防线的监管逻辑正式落地。

技术狂飙：数字人产业，从概念到规模化落地

（图片来源：摄图网）

数字人产业的爆发式增长，源于技术融合带来的质变。多模态AI技术让数字人具备实时交互能力，大模型赋予其逻辑推理与情感识别能力，AIGC则大幅降低内容生成成本。这些突破推动数字人从“静态展示”向“动态服务”转型——它们不仅能24小时直播带货，还能化身政务助手解答政策、化身医疗顾问辅助诊断。年轻群体成为核心消费主力，某美妆品牌通过定制数字人主播实现日均销售额突破50万元，转化率较真人主播提升18%。技术普及也带动产业链完善，从建模、驱动到运营，形成千亿级产业生态。

风险暗涌：虚假信息，成为行业顽疾

数字人技术的低门槛特性，使其成为不法分子传播虚假信息的“完美工具”。2025年，上海某公司利用AI生成“老专家”形象，通过短视频虚假宣传保健食品功效，涉案金额超2000万元；更有犯罪团伙通过换脸技术伪造“明星带货”场景，诱导消费者购买三无产品，单案涉案金额破亿元。这些案例暴露出数字人应用的两大风险：一是身份伪造，AI可轻易生成以假乱真的虚拟形象；二是大模型可能被恶意提示词诱导，生成违背伦理或法律的内容。

技术漏洞进一步加剧风险。2025年曝光的AI数字人主播被指令攻击事件中，攻击者仅通过输入特定关键词，即可控制AI主播上架0元商品，导致商家损失惨重。此类事件不仅损害消费者权益，更引发系统性信任危机——当数字人可以伪造任何身份时，真实与虚拟的边界被彻底模糊，社会对技术的信任遭到动摇。

监管升级：以AI治AI，构建溯源防线

面对技术滥用乱象，监管部门提出“以AI治AI”的解决方案，从法律、技术、平台三方面构建溯源防线。

法律层面，新规明确数字人商业应用的合规边界。要求平台对直播间运营者、主播服务机构进行资质核验，建立动态管控机制；规定AI生成内容必须进行显著标识，并持续提示消费者。这一制度设计既保障了技术创新空间，又划定了不可逾越的红线。

技术层面，监管部门推动平台应用AI检测工具识别虚假内容，通过区块链技术实现商品溯源。例如，腾讯云推出的“数字人溯源系统”可提取虚拟形象的3D建模参数与语音合成特征，构建唯一数字指纹，使违规内容溯源时间从72小时缩短至2小时。这种“技术对技术”的监管模式，有效破解了“技术黑箱”难题。

平台层面，头部企业已建立数字人入驻审核机制。快手电商通过“信用评价体系”对违规主体采取限流、暂停直播等措施，并要求其缴纳保证金；抖音平台自2024年下半年处置17万个录播直播间，封禁3万个账号，清退11家违规机构。这些实践表明，平台自律是监管落地的重要支撑。