北京
文 | 张翊飞
AI搜索具备智能筛选、主动生成等特征，正在深刻改变人类信息获取方式。然而，近期一种名为“生成式引擎优化”（GEO）的操作手法，正悄然演变为数据“投毒”行为：部分服务商将定制内容或伪造的权威信息大量投放到AI频繁抓取的高权重平台；更有甚者在代码中植入隐藏指令，干扰AI判断，使其输出带有特定倾向性的内容。
数据“投毒”危害不容小觑。其一，破坏信息公平。被污染的AI放大虚假信息，使优质内容湮没于“数据垃圾”中，形成“劣币驱逐良币”。其二，损害用户权益。用户在非客观真实信息的影响下可能会做出错误决策，尤其在金融、医疗等低容错率场景中，可能引发财产损失或人身安全风险。其三，阻碍产业健康发展。错误信息在AI模型中被反复引用，长此以往，用户对AI的信任将受到侵蚀，AI产业的创新进程与发展质量也将受到重挫。
防范数据污染、确保AI信息真实可靠，必须加快构建多方协同的治理体系。
政府部门应加强监管引领，尽快制定GEO相关行业规范标准，明确数据来源审核、质量评估及内容真实性验证等要求；同时，要提高违法成本，对非法数据交易与恶意“投毒”行为实施严厉打击。模型企业须强化技术自律，加强对训练数据的全流程筛查，持续提升数据清洗与异常检测能力，重点研发高精度“毒数据”识别与过滤技术，筑牢数据真实性与可靠性的内部防线。对公众而言，也需提高对AI技术的认知水平和对虚假信息的辨别能力，并主动反馈AI异常输出，为构建开放健康的AI治理生态贡献力量。
“AI向善”，必先“向真”。AI发展以数据为基，只有保证数据真实干净，AI发展才能行稳致远，造福于人。■
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
