北京
来源：中国经济周刊
随着AI（人工智能）深度融入千家万户，“遇事不决问AI”成了许多人的选择，但AI回答未必都是“干净”的。不久前，有媒体曝光“AI投毒”隐蔽产业链现象，引发社会广泛关注。
所谓“AI投毒”，是向人工智能大模型的训练数据中，掺入伪装成正常样本的恶意数据或虚假信息，进而影响模型判断、操纵输出结果。“投毒者”可以批量制造虚假网页、新闻，让AI在抓取数据时一并“吞下”，在不知不觉中“学歪”，最终固化为针对特定问题的“标准答案”；也可以在模型中植入隐蔽的后门指令，一旦触发特定关键词就输出预设信息。
信任是链接人与人工智能的重要前提。对个人而言，这种“看不见的污染”轻则影响体验，重则误导决策。比如AI推荐购物，它可能引导你购买被包装出来的“爆款”；向AI咨询医疗建议，它可能引用虚假病例，给出危险的治疗方案……在医疗、金融等关键领域，这种风险尤其值得警惕。对产业而言，如果“数据不可信”成为普遍担忧，企业之间的合作意愿就会下降，行业的创新效率也会受到影响。
更深层的影响在于社会认知，随着人工智能深度融入公众日常生活，一旦模型给出的回答总是隐含歪曲事实的信息，便会潜移默化误导公众认知，放大偏见、制造混乱，甚至危及国家安全。
为什么“AI投毒”在今天变得如此容易？
首先，数据本身越来越复杂，大模型依赖对海量数据的学习训练，各种数据混杂在一起，很难做到完全可控可信，一旦缺乏严格的核查机制，就会给“投毒”留下空间；其次，“AI投毒”门槛较低，不法分子借助GEO（生成式引擎优化）工具，短时间内便能批量生成高权重虚假内容，成本极低、隐蔽性强；第三，数据作为一种新型生产要素，相应的标准体系、责任机制、监管手段等还在逐步完善，客观上增加了治理难度。
近年来，我国出台《生成式人工智能服务管理暂行办法》《人工智能安全治理框架》等规范，持续加强人工智能治理。不久前，中央网信办部署“清朗·整治AI应用乱象”专项行动，将“AI数据投毒”列为重点打击对象。
面对“AI投毒”，治理还要往深处走。AI运营者要建立更加严格的数据筛选、标注与审查机制，提升数据的可追溯性和可验证性；通过异常检测、对抗训练等手段，提高模型对异常数据的识别能力，让“掺杂”的数据更难混入。主管部门应加快规则体系建设，在制度层面上进行约束。比如，明确数据使用责任、建立违法行为惩戒机制、推动行业标准制定等。公众同样不是旁观者，面对AI的回答，多一分质疑、多一次核实，不主动传播未经查证的诱导性内容，发现异常及时反馈，主动呵护良好的人工智能生态。
还要看到，治理不仅是“防”，更是“促”。通过建设更加开放透明的数据生态，让优质数据更易获取，减少对不明来源数据的依赖，从源头压缩“投毒”空间，才是长久之计。
“AI投毒”现象提醒我们，在人工智能时代，数据是一种需要精心呵护的公共资源。治理“看不见的污染”，不仅是在填补技术漏洞，更是为人工智能发展夯实根基。数据更可信、规则更清晰、责任更明确，人工智能才能真正成为值得信赖的重要工具，为经济社会高质量发展创造更大价值。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
