网易首页 > 网易号 > 正文 申请入驻

OpenAI与Elastic联手:检索准确率从60%飙到92%,令牌消耗锐减75%

0
分享至

企业AI一直被同一个老问题卡住脖子——上下文拿不到、拿不准。即便前沿模型把推理能力堆到天上,只要它没办法安全地触达企业真正需要的那部分信息,实际价值就会大打折扣。这背后的症结,有人管它叫“上下文债务”:数据就散落在工单系统、文档库、安全日志和运维报警里,可每一段都带着角色权限的锁,模型想取也得看有没有钥匙。周四,OpenAI和Elastic宣布扩大合作,目标就是把这件事理顺。

换一种更直白的说法:当检索撞上推理,安全权限这道门必须由检索端来守。OpenAI的推理模型现在直接依靠Elasticsearch的搜索、检索和权限控制能力,确保模型在开始推理之前,只拿到当前请求用户被明确授权查看的那部分数据。公司内部大量信息原本就被基于角色的访问控制(RBAC)严密保护着,如果一个AI代理跳过权限直接去“翻抽屉”,合规风险几乎无法回避。让Elasticsearch充当这道守门人,等于在数据出口就做好了隔离。


这两家公司从2023年起就有基础连接器,但这次更深的整合覆盖了三个关键运营方向:上下文感知的AI代理、代理可观测性,以及代理安全。无论哪一个,最终都指向同一个趋势——在推理开始之前就做到精准的信息筛选,既压缩成本,也提升答案的可靠程度。

Elastic放出了一组内部基准测试数据,恰好说明了这种“先检索、再推理”模式的实际收益。在检索测试里,Elasticsearch击中了0.89的召回分数,同时维持了多租户数据的隔离状态。另一项测试基于BrowseComp-Plus基准,Elastic利用其预计算的“知识指示器”,将输入令牌消耗量最多砍掉了75%,而答案的准确率则从60%一举抬到92%。这意味着检索阶段对上下文的控制越精准,模型需要处理的噪音就越少,推理成本自然跟着跳水。

可观测性的功课同样被塞进了这次合作。当工程师开始把自主代理推到生产环境里,光是盯着模型行为、令牌消耗和运行时的故障模式就够运维团队喝一壶了。Elastic把OpenAI的API使用指标和审计记录整合进一个统一控制面,站点可靠性工程(SRE)团队可以在同一个地方监控令牌用量、模型活动和基础设施遥测数据。一旦出事故,Elastic的代理化调查工作流会把相关信号自动关联起来,定位根因并推荐下一步处置动作,省去开发者在日志和指标之间来回跳转的折磨。

安全侧的整合也朝着攻击链的方向演进。安全警报不再是一条条孤立的通知,而能被串成完整的攻击路径,让分析人员更快看清对手的意图。尽管相关细节在本次发布中并未完全展开,但从已透露的方案看,Elastic正试图把搜索和分析能力嵌入安全代理,让安全事件响应也能借上检索和推理联动的力。

眼下,越来越多的企业正把自主代理部署到真实业务线上,这类AI系统每处理一次任务都可能触发多次检索与推理接力。OpenAI和Elastic选择的路径,本质上是用检索侧的权限与精准度来为推理“减负”,让模型少读无关内容、少烧令牌,还能把答案质量往上拔。对于所有想把生成式AI真正用到生产环境里的团队来说,这种从上下文治理切入的思路,可能比单纯追求更大的模型参数要管用得多。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
百万设备离奇消失,民警凭一串数字,在二手平台“捞”出嫌疑人

百万设备离奇消失,民警凭一串数字,在二手平台“捞”出嫌疑人

极目新闻
2026-07-31 18:06:26
震惊!头一回见办离婚手续带孩子见证的:孩子低头静静坐那,感觉他的心要碎了

震惊!头一回见办离婚手续带孩子见证的:孩子低头静静坐那,感觉他的心要碎了

火山詩话
2026-07-31 06:31:19
桃子大量上市,提醒:二者不可同吃,夏天吃桃子,这些禁忌要牢记

桃子大量上市,提醒:二者不可同吃,夏天吃桃子,这些禁忌要牢记

小茉莉美食记
2026-07-29 12:18:58
上位就忘本,睡女高管,出轨生私生子,背刺亲家凤凰男吃相真难看

上位就忘本,睡女高管,出轨生私生子,背刺亲家凤凰男吃相真难看

透视到底
2026-07-30 11:53:43
吹牛还是事实?囧哥公开放话:“打赵心童?那太轻松了!”

吹牛还是事实?囧哥公开放话:“打赵心童?那太轻松了!”

金木原创
2026-07-31 11:45:51
都没人能打破?詹姆斯超50000分,连续8年总决赛,连续1297场上双

都没人能打破?詹姆斯超50000分,连续8年总决赛,连续1297场上双

无术不学
2026-07-31 10:10:24
对付不尊重你的人,沉默是蠢,翻脸是输,真正的绝杀:照这6条做

对付不尊重你的人,沉默是蠢,翻脸是输,真正的绝杀:照这6条做

小影的娱乐
2026-07-30 17:07:17
美媒:中国“歼-36”战斗机进入第三种构型阶段,研发推进速度前所未有

美媒:中国“歼-36”战斗机进入第三种构型阶段,研发推进速度前所未有

零度Military
2026-07-31 15:35:54
都等到7月31号,2026年养老金调整通知公布了吗?两个万万没想到

都等到7月31号,2026年养老金调整通知公布了吗?两个万万没想到

虎哥闲聊
2026-07-31 14:17:32
青年谢贤与萧芳芳的同框合影,彼时二人一起休闲游泳

青年谢贤与萧芳芳的同框合影,彼时二人一起休闲游泳

娱你同欢
2026-07-11 21:52:55
特朗普表示,“不确定”是否向乌克兰颁发生产爱国者导弹的许可证

特朗普表示,“不确定”是否向乌克兰颁发生产爱国者导弹的许可证

山河路口
2026-07-31 17:41:38
人伦大乱正在毁掉无数中国家庭:3种乱象就在日常,拖垮一家人

人伦大乱正在毁掉无数中国家庭:3种乱象就在日常,拖垮一家人

阿凯销售场
2026-07-04 15:35:28
当众咆哮“滚回中国”!这位外交部长到底在急什么?

当众咆哮“滚回中国”!这位外交部长到底在急什么?

李荣茂
2026-07-31 19:02:02
C罗晒出与儿子肌肉合照!球迷畅想父子并肩作战,41岁传奇迎来国家队角色转变

C罗晒出与儿子肌肉合照!球迷畅想父子并肩作战,41岁传奇迎来国家队角色转变

峰云峰雨
2026-07-31 09:42:45
300元跌到118元,95后股民受伤:上半年赚的利润全吐光,“近40度的高温天,我感到有点冷”

300元跌到118元,95后股民受伤:上半年赚的利润全吐光,“近40度的高温天,我感到有点冷”

新浪财经
2026-07-31 09:49:35
NBA重磅4方交易方案!哈登为争冠再次做出牺牲!

NBA重磅4方交易方案!哈登为争冠再次做出牺牲!

徐纗老表哥
2026-07-31 10:32:50
被男人玩够就扔的女人都有一个通病:不是长得不够好,不是对他不够好,而是从头到尾都没碰到男人藏最深的两处软肋

被男人玩够就扔的女人都有一个通病:不是长得不够好,不是对他不够好,而是从头到尾都没碰到男人藏最深的两处软肋

心理观察局
2026-06-07 06:37:04
或14.99万?特斯拉SUV国内现身!

或14.99万?特斯拉SUV国内现身!

米粒说车唯一呀
2026-07-29 20:46:20
伊朗发布最新战绩! 成功摧毁美军3架F-35战机

伊朗发布最新战绩! 成功摧毁美军3架F-35战机

看看新闻Knews
2026-07-30 20:58:25
微软上架月之暗面Kimi K3:2.8万亿参数模型,百万Token上下文一次吞10部小说

微软上架月之暗面Kimi K3:2.8万亿参数模型,百万Token上下文一次吞10部小说

我是一个粉刷匠2
2026-07-30 15:47:17
2026-07-31 19:35:00
Ping值焦虑
Ping值焦虑
有态度网友ytd
455文章数 76关注度
往期回顾 全部

科技要闻

DeepSeek-V4-Flash正式版API上线公测

头条要闻

价值200万设备离奇消失 民警凭一串数字"捞"出嫌疑人

头条要闻

价值200万设备离奇消失 民警凭一串数字"捞"出嫌疑人

体育要闻

欧足联掀桌!因凡蒂诺这次真玩大了?

娱乐要闻

百花奖影帝影后即将决出

财经要闻

打新日确认!宇树科技IPO冲刺“冰与火”

汽车要闻

中国车企站到了合资桌子的另一边

态度原创

艺术
亲子
手机
公开课
军事航空

艺术要闻

美国银行体育场翻新,75年老球场“旧壳穿新衣”!

亲子要闻

爸爸在家带娃玩手机,吃东西三不误,宝宝还没学会走路脚后跟就长茧了

手机要闻

存储成本超处理器!今年上半年全球手机SoC出货同比下滑15%:联发科、高通均跌幅超1/4

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

特朗普称哈马斯将全面解除武装

无障碍浏览 进入关怀版