网易首页 > 网易号 > 正文 申请入驻

Neon开源4B模型:文档搜索能力超GPT-5.6 Sol,成本仅为1/100

0
分享至

IT之家 8 月 7 日消息,Neon 昨日(8 月 6 日)发布博文,宣布携手 Castform 公司,披露一套面向检索模型的训练方案。

IT之家注:Neon 是一款完全托管的无服务器(Serverless)PostgreSQL 数据库。它分离计算与存储,支持自动扩展、按需缩容至零以及类似 Git 的数据库分支功能,非常适合现代云原生应用和 AI 智能体。

而 Castform 主要提供面向企业和开发者的 AI 语音智能体与模型训练平台。它通过高度拟真的语音交互和自动化工作流,帮助企业处理日常通话、销售跟进及客户支持。

博文指出一个好的 AI 智能体,需要具备以下 2 种能力:一是通过工具找到正确的上下文数据;二是路由判断该搜索使用什么模型。

因此 Neon 团队携手 Castform 公司使用强化学习,后训练 1 个 4B 参数开源模型。在搜索任务中,该模型的准确率与 OpenAI 的 GPT-5.6 Sol 相当、甚至更高,而成本约为后者的 1/100。

Neon 团队指出在文档搜索方面,目前主流做法是嵌入式搜索(embedded search),通常把文档转换为数值化数据,再查找相似内容。

而伴随着 AI 智能体的普及,搜索流程开始转向智能体式搜索。在这类系统中,AI 模型会把大型问题拆成多个小问题,自主决定搜索查询,查看搜索结果,并基于结果发起下一次搜索,直到收集到所需信息。


Neon 表示,智能体式搜索更适合处理复杂问题,但每次搜索都需要调用高性能模型,因此会增加耗时和成本。按 Neon 给出的典型请求口径,使用 GPT-5.6 Sol 的一次搜索请求耗时超过 10 秒,成本约为 $0.03。

Castform 选择训练相对较小的开源模型,让模型学习如何从特定数据中找到所需信息。Neon 负责提供文档存储位置和搜索功能,Castform 负责训练模型判断“该搜索什么”。

训练流程中,模型会尝试完成任务,系统会给结果打分,并把评分结果纳入后续试验。评估维度包括:是否找到正确文档、是否引用合适段落、最终答案是否正确。


在 Neon 的验证中,经 Castform 后训练的模型平均评估分为 1.447,超过 GPT-5.6 Sol 的 1.369,也高于作为对照的 GPT-5.4 的 1.377,刷新该验证中的最高纪录。

成本方面,后训练模型的单次推理成本为 0.000929 美元(现汇率约合 0.0063 元人民币);GPT-5.6 Sol 的单次推理成本为 0.087338 美元(现汇率约合 0.59 元人民币)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
65年周恩来提出买进口药,毛主席同意,刘亚楼:我的病还能治好吗

65年周恩来提出买进口药,毛主席同意,刘亚楼:我的病还能治好吗

阿器谈史
2026-08-07 15:12:45
阿里巴巴主席官宣离婚,荒唐一幕出现,出轨女主持人传闻已有真相

阿里巴巴主席官宣离婚,荒唐一幕出现,出轨女主持人传闻已有真相

温读史
2026-08-07 03:49:08
反华妖女许可馨,回国后狂妄叫嚣无人敢动她,如今下场大快人心

反华妖女许可馨,回国后狂妄叫嚣无人敢动她,如今下场大快人心

街上的行人很刺眼
2026-07-27 14:58:45
赵雅芝现身江西,无修图就是个老太太,但手背有锻炼痕迹

赵雅芝现身江西,无修图就是个老太太,但手背有锻炼痕迹

情感大头说说
2026-08-05 12:20:23
太阳表面最高分辨率图像来了

太阳表面最高分辨率图像来了

澎湃新闻
2026-08-06 08:38:03
俄方:若想和平解决俄乌冲突 欧洲应停止援乌

俄方:若想和平解决俄乌冲突 欧洲应停止援乌

财联社
2026-08-07 04:40:05
76岁老人宠幸18岁侍女,写下一首云雨诗,露骨到让人脸红

76岁老人宠幸18岁侍女,写下一首云雨诗,露骨到让人脸红

长风文史
2026-08-06 20:23:56
搜救重大转向!22岁失联女孩线索锁定夺命,全程无防护令人揪心

搜救重大转向!22岁失联女孩线索锁定夺命,全程无防护令人揪心

手机相册中的国际风云
2026-08-07 10:39:14
亲子鉴定出炉,男子结婚8年3个女儿均非亲生:已向妻子提起诉讼,要求离婚、返还抚育开支并赔偿精神抚慰金

亲子鉴定出炉,男子结婚8年3个女儿均非亲生:已向妻子提起诉讼,要求离婚、返还抚育开支并赔偿精神抚慰金

封面新闻
2026-08-06 21:59:08
还差79球,梅西职业生涯能打进1000球吗

还差79球,梅西职业生涯能打进1000球吗

姜大叔侃球
2026-08-06 16:36:51
胡兵陈鲁豫毛宁孙浩凑一块儿,啃猪脚剥大虾,乐呵呵真舒坦

胡兵陈鲁豫毛宁孙浩凑一块儿,啃猪脚剥大虾,乐呵呵真舒坦

梦醉为红颜一笑
2026-08-07 15:01:59
中国女排迎3大王牌归队,14人最强阵容冲亚锦赛,郎平可以放心了

中国女排迎3大王牌归队,14人最强阵容冲亚锦赛,郎平可以放心了

寒士之言本尊
2026-08-06 21:05:51
创新药概念再度走强,多股涨停

创新药概念再度走强,多股涨停

每日经济新闻
2026-08-07 09:48:05
虽败犹荣!37 岁张帅 0-2 惜败世界第一萨巴伦卡,全场仅 1 次非受迫失误,老将风骨碾压胜负

虽败犹荣!37 岁张帅 0-2 惜败世界第一萨巴伦卡,全场仅 1 次非受迫失误,老将风骨碾压胜负

小兰看体育
2026-08-07 12:29:19
退休老人别再瞎琢磨!养老金延后调整,差额后续一次性补发

退休老人别再瞎琢磨!养老金延后调整,差额后续一次性补发

云鹏叙事
2026-08-06 19:19:59
马斯克再次强调:英国将发生内战,5年内AI智力或超过所有人类智力总和,他自称擅长预测,但注定不会被人相信

马斯克再次强调:英国将发生内战,5年内AI智力或超过所有人类智力总和,他自称擅长预测,但注定不会被人相信

极目新闻
2026-08-06 10:32:16
明镜气息奄奄,紧抓明楼衣襟:阿诚是汪曼春亲哥哥,也是军统内鬼

明镜气息奄奄,紧抓明楼衣襟:阿诚是汪曼春亲哥哥,也是军统内鬼

不易一字
2026-02-02 17:15:10
向鹏爆冷击败国乒克星,强势晋级,双陈压力山大

向鹏爆冷击败国乒克星,强势晋级,双陈压力山大

kio鱼
2026-08-07 00:04:29
太扎心!演员周瑞揭开横店现状:去年日薪3万,今年80块抢戏还要靠运气

太扎心!演员周瑞揭开横店现状:去年日薪3万,今年80块抢戏还要靠运气

小徐讲八卦
2026-08-05 09:57:25
“没任何不舒服”!深圳6岁孩子做头颅CT,意外发现6颗异物!爸妈脊背发凉

“没任何不舒服”!深圳6岁孩子做头颅CT,意外发现6颗异物!爸妈脊背发凉

南方都市报
2026-08-06 19:25:20
2026-08-07 16:36:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
359167文章数 607426关注度
往期回顾 全部

科技要闻

突然涨价,"只收电费钱"的梁文锋,变了吗

头条要闻

美财长曾做空日元如今要救 还想拉人民币下水

头条要闻

美财长曾做空日元如今要救 还想拉人民币下水

体育要闻

去年信誓旦旦3000万 今年NBA查无此人

娱乐要闻

周也热恋结束,六个字暴露单身状态

财经要闻

腾讯WorkBuddy领跑AI办公 阿里字节急了?

汽车要闻

智界V9超级工厂溯源 以纯血鸿蒙定义中国智造自我进化

态度原创

旅游
教育
手机
公开课
军事航空

旅游要闻

千城胜景 | 甘河畔邂逅棕头鸥

教育要闻

乔姆斯基的语言哲学,生成语法是什么意思?

手机要闻

三星Galaxy S26 FE最新渲染图曝光

公开课

李玫瑾:为什么性格比能力更重要?

军事要闻

乌防空导弹严重短缺 泽连斯基公开喊话

无障碍浏览 进入关怀版