AI“标准答案”亟须规则与边界

（来源：经济日报）

转自：经济日报

央视“3·15”晚会曝光的“GEO（生成式引擎优化）投毒”灰产，如同一记重锤砸醒了沉醉于技术红利的人们，不法商家通过批量制造虚假内容“喂给”大模型，竟让凭空捏造的信息被多个主流AI应用当作“标准答案”。

这一荒诞案例，折射出当前社会在拥抱人工智能浪潮时面临的严峻挑战：我们该如何辩证地看待和使用AI应用？

事实上，AI应用的初衷本是赋能，但在实际落地中，部分企业却将其扭曲为“降本”的挡箭牌，牺牲了服务的温度与用户的权益。以AI客服为例，其处理基础咨询的高效性毋庸置疑，但个别企业为了极致压缩人力成本，故意隐藏人工入口，将用户困在与机器“车轱辘话”的死循环中。这种智能屏障，本质上是用技术的冷漠规避企业的责任。

当深层问题需要情感交互与复杂决策时，人工干预的缺失造成了信任裂痕。这恰恰证明了，正确的AI使用之道绝非简单的“机器换人”，而应明确“人机协作”的边界，让算法处理标准化低阶任务，将关乎用户体验与危机处理的钥匙，牢牢保留在有温度的人工手中。

如果说客服领域的乱象是由于服务伦理的缺失，那么“3·15”曝光的GEO灰产则是对信息生态的根本性破坏。随着AI搜索工具成为用户获取信息的首选，传统的SEO（搜索引擎优化）正演变为更具隐蔽性的GEO，这本是营销方式的自然迭代，旨在更精准地触达用户，但灰产的介入让“精准”变成了“投毒”。

部分从业者利用大模型对训练数据的依赖，通过矩阵式发布虚假软文，将广告伪装成客观事实直接注入模型认知底层。这种手段比传统竞价排名更可怕，因为它抹去了“广告”标识，让谎言以“真理”的面目出现。一旦大模型沦为“谁花钱多就推荐谁”的工具，互联网信息生态将面临“劣币驱逐良币”，公众对人工智能的信任基石也将瞬间崩塌。

面对“客服壁垒”“数据投毒”等乱象，单纯的技术乐观主义已不足以应对。破解这一困局，不能仅靠零散的修补，而需构建一个从“源头自律”到“监管规制”，最终抵达“个体觉醒”的纵深防御体系。

技术本身无错，但使用技术的人必须有敬畏之心。企业若只盯着短期的成本，将AI视为收割流量的工具，终将面临品牌信誉崩塌的反噬。真正的智能应用，应当是在客服场景中主动保留“人工通道”的温情底线，以及在营销场景中坚守拒绝“数据投毒”的红线意识。

自律并非万能，监管“利剑”需高悬。面对GEO等新型灰产，传统的广告法执法手段已显滞后，监管逻辑需从“事后处罚”转向“事前监测”与“算法问责”。加快建立针对大模型生成内容的动态监测机制，明确“算法推荐”背后的法律责任，让恶意操纵者付出难以承受的代价，才能防止行业生态恶化。

在技术与伦理的博弈缝隙中，最后一道防线往往掌握在用户手中。人们须清醒地认识到，AI生成的“标准答案”可能包裹着偏见甚至谎言。保持批判性思维，养成多方验证信息的习惯，不仅是自我保护的手段，更是每一个数字公民在智能时代应有的生存智慧。

从蒸汽机到电力，历次技术革命都经历“野蛮生长—规则确立—价值整合”的螺旋上升。当下的AI应用正处于第一阶段向第二阶段的过渡期，既要拥抱效率红利，也要警惕边界失守；既要鼓励商业创新，也要捍卫公共利益。