网易首页 > 网易号 > 正文 申请入驻

企业AI系统失效,90%的原因不是模型弱,而是语义漂移

0
分享至

企业AI系统很少会因为模型本身不够强而失效。 更隐蔽的失败模式是:模型运行正确,SQL执行成功,结果看起来也很合理——但系统正在基于过时的业务表示进行推理。 这就是语义漂移(Semantic Drift)。 随着越来越多的团队在LLM与企业数据之间加入语义层,维护这些语义就不再是一次性的建模任务,而变成了生产工程问题。 数据库在变。业务定义在变。关联关系在变。 如果AI的理解没有跟着变,准确度就会悄悄退化,而且很难被及时发现。 语义层是运行时基础设施 典型的AI分析架构大致如下: 用户提问 → LLM/查询代理 → 语义层 → 企业数据 语义层通常包含: - 业务术语; - 指标定义; - 维度; - 物理表与字段的映射; - 用于生成查询的关联关系。 语义层的作用,是防止LLM直接从原始schema猜测业务含义。 但这里有一个重要的推论: 一旦AI在查询时依赖语义层,过期的语义就会变成运行时故障。 问题在于,很多团队把语义模型当成文档来维护。 定义一次,评审一次,发布一次。 然后就假设它会一直正确。 企业数据可不会这样。 失败模式1:Schema漂移 假设某个指标映射到: customer.customer_id 仓库迁移之后,组织引入了新表: account_customer.customer_key 旧表可能为了兼容性仍然保留。 这就形成了一个危险局面。 表面上什么都没坏。 旧查询依然可以执行。 但语义映射指向的,是一个已经不再具有权威性的数据表示。 传统的schema监控只能告诉你"新增了一列"。 AI分析需要回答一个更难的问题: 这次schema变更,是否让AI所依赖的任何业务含义失效? 要回答这个问题,必须把schema变更检测与语义影响分析连接起来。当数据管道调整、迁移脚本执行或建模方式改变时,系统需要自动识别:哪些指标定义、哪些维度映射、哪些关联关系受影响,并主动触发语义层更新,而不是等业务人员发现报表数字不对时再去排查。 结语 在LLM驱动的企业AI时代,语义层绝不是可以一次建好、永久使用的静态资产,而是需要持续运维的运行时基础设施。 把语义当文档维护,系统会在沉默中慢慢失效; 把语义当基础设施运营,AI才能真正站在正确的业务事实上回答问题。


特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
200万手!直线涨停!002421回应:未参股宇树科技

200万手!直线涨停!002421回应:未参股宇树科技

大众证券报
2026-08-12 11:37:32
非必要不做肠镜?医生提醒:只要做过肠镜,这7件事一定要多注意

非必要不做肠镜?医生提醒:只要做过肠镜,这7件事一定要多注意

叙说医疗健康
2026-07-25 06:00:22
这,很巴萨!卖费兰进账5500万欧签罗德里,还省了800万欧

这,很巴萨!卖费兰进账5500万欧签罗德里,还省了800万欧

涛哥侃球
2026-08-12 21:35:26
被许家印坑得最惨的4个大佬:曾经都是称兄道弟的好朋友

被许家印坑得最惨的4个大佬:曾经都是称兄道弟的好朋友

皮皮电影
2026-07-18 12:39:20
高市收到直白警告:日本赌不起这场台海局,经济将遭受毁灭性冲击

高市收到直白警告:日本赌不起这场台海局,经济将遭受毁灭性冲击

小莜读史
2026-08-12 21:49:07
郭德纲被立案调查!演出篡改红歌遭举报,网友:之前还调侃过国难

郭德纲被立案调查!演出篡改红歌遭举报,网友:之前还调侃过国难

翰飞观事
2026-08-12 22:00:39
穆帅反击来了!三次对话揭开皇马更衣室伤疤,卡西这次躲不掉了

穆帅反击来了!三次对话揭开皇马更衣室伤疤,卡西这次躲不掉了

涵有话说
2026-08-12 09:41:27
47死34伤!摆摊被没收,领不到养老金,老人为报复公交车点燃汽油

47死34伤!摆摊被没收,领不到养老金,老人为报复公交车点燃汽油

易玄
2026-08-02 02:08:06
全球最大主权财富基金斩获 1840 亿美元创纪录利润,并首次披露持有SpaceX股份

全球最大主权财富基金斩获 1840 亿美元创纪录利润,并首次披露持有SpaceX股份

新浪财经
2026-08-12 15:55:01
窦靖童宋妍霏一前一后现身机场,穿情侣同款人字拖,感情依然稳定

窦靖童宋妍霏一前一后现身机场,穿情侣同款人字拖,感情依然稳定

林轻吟
2026-08-12 19:25:07
清华大学深夜通告:暂停校园参观活动

清华大学深夜通告:暂停校园参观活动

极目新闻
2026-08-12 10:53:26
我妈68岁了,不打麻将不跳广场舞也从不和楼下老太们攀比,我一度以为她这样的老太最让人省心,可谁知结果让人意外

我妈68岁了,不打麻将不跳广场舞也从不和楼下老太们攀比,我一度以为她这样的老太最让人省心,可谁知结果让人意外

晓艾故事汇
2026-08-12 10:23:04
钱再多有什么用?女排教父袁伟民现状,给所有中老年人提了个醒

钱再多有什么用?女排教父袁伟民现状,给所有中老年人提了个醒

铁锤妹妹是只猫
2026-07-29 14:45:25
3个月卖了14.56亿!狂砸9.09亿打广告,千元跑鞋被中产嫌弃了?

3个月卖了14.56亿!狂砸9.09亿打广告,千元跑鞋被中产嫌弃了?

白米饭怎么吃
2026-08-12 20:49:14
真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

真是毁三观!释永信21年前与刘立明在郑州发生关系的笔录曝光

魔都姐姐杂谈
2025-07-28 14:35:36
发现中国一个奇怪的现象:只要有公婆帮扶的家庭,儿媳都忙着回公婆家;而公婆不帮的家庭,儿媳早已断联!

发现中国一个奇怪的现象:只要有公婆帮扶的家庭,儿媳都忙着回公婆家;而公婆不帮的家庭,儿媳早已断联!

心理观察局
2026-08-01 07:10:30
一旦起飞就意味开战,不加油可绕地球飞80圈,连美国也不敢击落

一旦起飞就意味开战,不加油可绕地球飞80圈,连美国也不敢击落

蜉蝣说
2026-08-06 10:10:43
斯卢茨基:我主动辞职不给自己留余地;告别时从没见过这么多中国人哭泣

斯卢茨基:我主动辞职不给自己留余地;告别时从没见过这么多中国人哭泣

懂球帝
2026-08-12 22:34:13
越南少将坦白谅山真相:若解放军多停留五天,谅山越军将全军覆没

越南少将坦白谅山真相:若解放军多停留五天,谅山越军将全军覆没

金麦趣闻故事
2026-08-10 06:07:23
中方接到消息,菲律宾政坛突变,杜特尔特长子率先发起反击

中方接到消息,菲律宾政坛突变,杜特尔特长子率先发起反击

主宰未来
2026-08-12 13:43:09
2026-08-12 23:03:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
374文章数 69关注度
往期回顾 全部

科技要闻

Manus第二季,浪子回头

头条要闻

业主称天然气公司要求热水器满8年必须换 不换不能购气

头条要闻

业主称天然气公司要求热水器满8年必须换 不换不能购气

体育要闻

杜兰特,所谓的“联盟小王”

娱乐要闻

老戏骨杨昆两夺金鹰奖,因物业费被告

财经要闻

华尔街把AI算力炒成下一个房地产?

汽车要闻

这台大众不一般 上汽大众ID.ERA.5S综合续航约2000公里

态度原创

本地
数码
健康
游戏
公开课

本地新闻

黄州一夜,苏轼写给普通人的月光

数码要闻

内存狂涨推高老旧处理器销量 旧型号倒反天罡力压旗舰

身子歪≠脊柱侧弯,侧弯发病率没变

PS+8月二三档首款游戏敲定!《绝地潜兵2》来了

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版