网易首页 > 网易号 > 正文 申请入驻

Neon开源4B模型:文档搜索能力超GPT-5.6 Sol,成本仅为1/100

0
分享至

IT之家 8 月 7 日消息,Neon 昨日(8 月 6 日)发布博文,宣布携手 Castform 公司,披露一套面向检索模型的训练方案。

IT之家注:Neon 是一款完全托管的无服务器(Serverless)PostgreSQL 数据库。它分离计算与存储,支持自动扩展、按需缩容至零以及类似 Git 的数据库分支功能,非常适合现代云原生应用和 AI 智能体。

而 Castform 主要提供面向企业和开发者的 AI 语音智能体与模型训练平台。它通过高度拟真的语音交互和自动化工作流,帮助企业处理日常通话、销售跟进及客户支持。

博文指出一个好的 AI 智能体,需要具备以下 2 种能力:一是通过工具找到正确的上下文数据;二是路由判断该搜索使用什么模型。

因此 Neon 团队携手 Castform 公司使用强化学习,后训练 1 个 4B 参数开源模型。在搜索任务中,该模型的准确率与 OpenAI 的 GPT-5.6 Sol 相当、甚至更高,而成本约为后者的 1/100。

Neon 团队指出在文档搜索方面,目前主流做法是嵌入式搜索(embedded search),通常把文档转换为数值化数据,再查找相似内容。

而伴随着 AI 智能体的普及,搜索流程开始转向智能体式搜索。在这类系统中,AI 模型会把大型问题拆成多个小问题,自主决定搜索查询,查看搜索结果,并基于结果发起下一次搜索,直到收集到所需信息。


Neon 表示,智能体式搜索更适合处理复杂问题,但每次搜索都需要调用高性能模型,因此会增加耗时和成本。按 Neon 给出的典型请求口径,使用 GPT-5.6 Sol 的一次搜索请求耗时超过 10 秒,成本约为 $0.03。

Castform 选择训练相对较小的开源模型,让模型学习如何从特定数据中找到所需信息。Neon 负责提供文档存储位置和搜索功能,Castform 负责训练模型判断“该搜索什么”。

训练流程中,模型会尝试完成任务,系统会给结果打分,并把评分结果纳入后续试验。评估维度包括:是否找到正确文档、是否引用合适段落、最终答案是否正确。


在 Neon 的验证中,经 Castform 后训练的模型平均评估分为 1.447,超过 GPT-5.6 Sol 的 1.369,也高于作为对照的 GPT-5.4 的 1.377,刷新该验证中的最高纪录。

成本方面,后训练模型的单次推理成本为 0.000929 美元(现汇率约合 0.0063 元人民币);GPT-5.6 Sol 的单次推理成本为 0.087338 美元(现汇率约合 0.59 元人民币)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
川普不用再有心结,哈马斯代言人获诺贝尔和平奖

川普不用再有心结,哈马斯代言人获诺贝尔和平奖

移光幻影
2026-10-09 23:40:52
野心彻底暴露!刘强东在中东大量买地,根本不是只做跨境电商

野心彻底暴露!刘强东在中东大量买地,根本不是只做跨境电商

阅微札记
2026-10-09 09:59:08
杭州降39%、广州降32%、上海降31%!不是房子卖光, 而是房东不卖了

杭州降39%、广州降32%、上海降31%!不是房子卖光, 而是房东不卖了

兴趣知识
2026-10-09 01:02:33
2027款Model Y正式上市,23万起售,优缺点一次性说透

2027款Model Y正式上市,23万起售,优缺点一次性说透

三农老历
2026-10-09 11:12:55
开局6轮不胜!富勒姆排名英超垫底 前皇马主帅面临下课

开局6轮不胜!富勒姆排名英超垫底 前皇马主帅面临下课

球事百科吖
2026-10-11 03:38:27
泰国真的不能再去了?无数游客亲身经历,坦言当地早已不复当年

泰国真的不能再去了?无数游客亲身经历,坦言当地早已不复当年

网络易不易
2026-09-30 06:10:17
史无前例!乌方公开证实:白俄罗斯特种部队已正式加入乌克兰军队

史无前例!乌方公开证实:白俄罗斯特种部队已正式加入乌克兰军队

史智文道
2026-10-06 22:01:47
双曼卫冕,马琳脸色铁青:王曼昱重摔那一下,比孙颖莎还让人揪心

双曼卫冕,马琳脸色铁青:王曼昱重摔那一下,比孙颖莎还让人揪心

冷桂零落
2026-10-11 03:22:07
WSBK葡萄牙站:德比斯17名发车第6完赛,正式无缘年度总冠军

WSBK葡萄牙站:德比斯17名发车第6完赛,正式无缘年度总冠军

全景体育V
2026-10-10 21:38:57
外媒评中国九大导演,陈凯歌落榜,张艺谋未进前五,冠军实至名归

外媒评中国九大导演,陈凯歌落榜,张艺谋未进前五,冠军实至名归

观察者海风
2026-10-08 19:43:37
最后时刻遭绝杀成都蓉城再失冠军点,主教练阿洛伊西:责任由我来担

最后时刻遭绝杀成都蓉城再失冠军点,主教练阿洛伊西:责任由我来担

封面新闻
2026-10-11 00:09:05
宅基地权属彻底敲定!就算老宅垮塌、房顶全塌,大伙犯不上瞎扯皮

宅基地权属彻底敲定!就算老宅垮塌、房顶全塌,大伙犯不上瞎扯皮

三农雷哥
2026-09-20 19:44:43
王皓被辱骂后续:3人被行政拘留,身份曝光,原来都是同一类人

王皓被辱骂后续:3人被行政拘留,身份曝光,原来都是同一类人

阿废冷眼观察所
2026-10-11 04:00:22
跳海救人的黄峰,履新省纪委

跳海救人的黄峰,履新省纪委

大风新闻
2026-10-10 09:12:08
住客称“凌晨睡梦中被老鼠咬伤”,涉事酒店:情况属实,酒店已做全面消杀,旁边是小吃街,老鼠可能是从其他地方跑来的

住客称“凌晨睡梦中被老鼠咬伤”,涉事酒店:情况属实,酒店已做全面消杀,旁边是小吃街,老鼠可能是从其他地方跑来的

南方都市报
2026-10-10 09:49:41
炸裂!女领导被爆婚内出轨9人,聊天记录露骨,女方撩拨攻势猛烈

炸裂!女领导被爆婚内出轨9人,聊天记录露骨,女方撩拨攻势猛烈

随笔写人间
2026-10-09 20:30:36
葡萄牙足协公布对C罗处罚结果

葡萄牙足协公布对C罗处罚结果

第一财经资讯
2026-10-10 21:54:44
某些无良媒体,你丫还有点良知和节操吗?

某些无良媒体,你丫还有点良知和节操吗?

涛哥锐评
2026-10-06 20:56:04
曝光后,上海这些"男神房""女神房"纷纷被下架

曝光后,上海这些"男神房""女神房"纷纷被下架

看看新闻Knews
2026-10-09 23:05:11
日本右翼向AI大模型“投毒”篡改历史,外交部回应

日本右翼向AI大模型“投毒”篡改历史,外交部回应

澎湃新闻
2026-10-09 16:48:46
2026-10-11 05:16:49
IT之家
IT之家
爱科技,爱这里 - 前沿科技人气平台
371947文章数 607601关注度
往期回顾 全部

科技要闻

上世纪成熟的踏板,为何今天还会断裂?

头条要闻

港媒:梅艳芳骨灰被盗三个月无线索 歌迷会公开求助

头条要闻

港媒:梅艳芳骨灰被盗三个月无线索 歌迷会公开求助

体育要闻

十年回首:湖人三榜眼的夏天,与NBA无关

娱乐要闻

宋佳一串三大满贯 争议随之而来

财经要闻

双汇因抗生素超标共被罚1.29亿元

汽车要闻

千匹马力+三把锁/顶配能浮水 银河战舰700限时焕新价16.98万起

态度原创

教育
房产
数码
艺术
健康

教育要闻

“取这种名字,孩子一辈子都难晋升”,马姓女孩的名字曝光,网友们毫不掩饰地评论道

房产要闻

海棠湾销冠再出牌:海南顶豪「终局答案」,突然砸出!

数码要闻

华为鸿蒙星河互联与Apple Watch互联适配机型公布,首批含Pura X View、Mate 90系列等

艺术要闻

黄沙万里不见泪|仇英《明妃出塞图》:昭君从来不是悲情美人

痘坑留下后,还能填平吗?

无障碍浏览 进入关怀版