警惕！“AI泔水”正在污染数字生态，你的认知可能已被侵蚀

来源：滚动播报

（来源：上观新闻）

“AI泔水”指由生成式人工智能批量生产的低质、冗余、缺乏认知价值的内容，其以技术效率渗透数字空间，形成了标志性的数字文化症候群，为治理数字时代低质内容提供了关键参照样本。作为数字内容生态的“污染物”，“AI泔水”不仅挤占优质信息的传播通道，更消解内容生产的原创精神，侵蚀受众的信息辨别能力与认知体系，对数字文化生态的健康发展构成威胁。剖析其生成机理，完善治理体系，已成为数字时代维护信息质量、保障文化生态健康发展的关键议题。

“AI泔水”泛滥是技术迭代的生产变革、平台主导的流量逻辑、数据循环的递归污染等多重因素交织的产物，其核心症结在于数字内容生产与传播环节中“效率优先”对“价值优先”的替代而产生异化。

其一，技术门槛降低诱发创作异化。传统内容生产需要知识积累、经验沉淀与创造性思考，而生成式AI通过模式识别与概率采样，“一键生成”能够在数秒内产出结构完整、语法规范的文本、图像与视频。这种技术便利性在市场化应用中迅速异化为“内容工业化”逻辑，部分创作者与机构将AI视为高效率的“数字劳工”，通过批量投喂关键词、模板化调用接口，设置自动发布程序，构建起全天候不间断的“AI泔水”生产线。技术的效率优势被无限放大，而内容本身的真实性、独创性与思想深度则被忽视。本应具有创作价值的创作活动被异化为流量变现的工具性行为。

其二，算法操控下注意力流量异化。平台算法往往优先奖励更新频率、用户停留时长与互动数据，而非内容的原创性与思想深度。优质原创内容因生产周期长、成本高，在流量竞争中反而处于劣势；而“AI泔水”凭借低成本、高产出的特点，迅速填满信息渠道，挤占原创者的生存空间，收割流量背后的“注意力”资源。当用户被低质内容反复推送时，其审美能力与批判性思维逐渐钝化，会进一步降低对高质量内容的需求弹性。以“外国山海经”类内容为例，一旦因好奇点击，算法便会持续推送同类荒诞、猎奇内容，不仅易导致未成年人沉迷，更会扭曲其认知体系，造成长期的认知损害。

其三，污染数据回流引发内容异化。生成式AI本质由数据驱动，其输出质量直接取决于训练数据的纯度与多样性。当大量AI生成的低质内容回流至互联网，并被新一代模型抓取作为训练语料时，便形成了“以泔水喂养产出更多泔水”的递归污染。大语言模型基于概率统计模式预测而非真实语义理解产生的“AI幻觉”也会进一步加剧低质内容的传播与扩散，使数字内容生态陷入“低俗化螺旋”，进而对数字内容生态产生持续性的破坏，增加治理的难度。

随着AI技术持续发展，“AI泔水”的形态可能不断演变，从当前的文本、图像向视频、交互式内容延伸，治理难度也将同步提升。对此，亟需立足“法律保障、技术规制、平台责任、主体赋能”的多元协同治理框架，完善治理路径，实现对“AI泔水”的精准治理与源头管控。

一是完善法治保障，明确治理权责边界。强化法治引领，赋能AI健康发展，加快修订数字内容治理相关法律法规，将AI内容生成纳入法治化轨道，清晰界定“AI泔水”范畴，厘清技术企业、平台、创作者的法律责任，对批量生产传播低质内容的行为设定刚性惩戒措施。针对AI技术迭代特性，建立法律法规动态调整机制，及时回应新型治理问题，保障法律规制的时效性与针对性。鉴于数字内容的跨境传播属性，还需强化国际治理合作，积极参与人工智能治理国际规则制定，构建跨境AI内容治理协作机制。

二是强化技术规制，构建源头阻断机制。推动企业在模型设计阶段嵌入质量过滤模块，通过语义理解、事实核查等技术实现AI生成内容前置审核，从源头管控低质内容产出。在落实《人工智能生成合成内容标识办法》的基础上，依托区块链技术实现全周期追溯，为审核与用户辨别提供依据。规范训练数据管理，严禁未经核实的低质内容纳入训练，阻断递归污染链条。

三是压实平台责任，重塑流量分配机制。平台需打破“唯流量论”，重构以内容价值为核心的流量分配机制，加大对优质原创内容的流量与收益倾斜，同时建立AI低质内容快速识别清理机制，实施梯度惩戒。针对未成年受众设置专属审核屏障，防范认知侵蚀。相关行业协会应牵头制定内容生产规范与伦理准则，明确AI创作边界，推动平台与市场主体引导“价值优先”回归，形成平台治理与行业自律合力。

四是赋能多元主体，构建协同治理网络。加强公众媒介素养教育，通过多渠道普及AI辨别知识，弥合“AI数字鸿沟”，提升公众批判性思维，引导优质内容需求，形成供需优化的良性循环。畅通公众监督渠道，建立举报奖励机制，调动公众参与积极性，完善政府、平台、行业、公众多元协同的治理格局。

综上所述，数字内容生态治理并非单一维度的技术管控，而是涉及技术创新、平台运营、市场规范、公众素养等多方面的系统工程。唯有立足多元协同治理理念，从法治保障、源头阻断、过程管控、需求引导等多环节发力，才能涤荡污染数字内容生态的“AI泔水”，维护信息传播的质量与效率，为数字文化的健康发展筑牢根基。

（作者为上海师范大学党委宣传部副部长）

原标题：《治理“AI泔水”迫在眉睫，守护数字文化健康刻不容缓》

栏目主编：王多 文字编辑：王多 题图来源：上观题图 图片编辑：曹立媛

来源：作者：傅昕源