网易首页 > 网易号 > 正文 申请入驻

不会聊天的模型,靠下棋挤进了推理模型中间梯队

0
分享至

一个不会聊天的模型,被塞进了国际象棋排行榜,结果排到了第59名,Elo约243,旁边站着的是qwen3.6-27b和o4-mini-medium。

TypeSafe的Jev就是这么个怪东西。它不是聊天模型——你给它一个状态,再加上一组带类型的提问(Choice/Score/Noul),它回给你带概率的标签。像分类器,但输入可以是自由文本,标签每次由你自己定。


LLM Chess这个评测场子,跑的一直是聊天模型。它们以智能体方式对局,走一套多轮协议:get_current_boardget_legal_movesmake_move 。Jev不干这些。那还能不能把它放上同一张榜?答案是可以——前提是你按它期待的方式跟它说话。

先说清楚:这是一次外部评测

TypeSafe对刷榜这件事是公开反感的。在System One/Jev的发布文章里,他们说现有的LLM基准测试在这里并不真正适用,也跳过了常规的公开评测榜单,没把自家模型和其他模型摆在一起比。他们更愿意用带日期的内部快照。

但作者还是把Jev放上了LLM Chess——同一套测试框架,同一批对手,和那些聊天模型一样。

跟Jev对话的感觉,有点像跟霍金对话:聪明,但没有自由发言权。答案不会以自由形式吐出来。

在国际象棋之外,作者试过一个有点傻的下一字符循环:在a到z加上之间做Choice,每生成一个字母调一次API。让它拼blue,或者补全hel…,它吐出来的是半成品词——bue、helhoh。从pari…开始,它倒是补出了paris。从零开始生成很弱,补全一个不完整的片段反而更好用。

一份固定的合法棋步清单,比一个字母一个字母地拼英文,适配这个模型得多。

怎么把它接进LLM Chess

每一步的接法是这样的:

  • 状态:{ fen, side_to_move }
  • 一次Choice:把所有合法UCI走法作为选项(SAN写在criteria文本里),上限255

Jev返回一个UCI字符串,转成make_move e7e5——和聊天模型发给评测运行器的是同一个动作。从外面看,几乎就是一次正常的评测交互。

价格是每100万输入token收0.042美元,输出免费。

结果方面,当前榜单上jev-latest大约排在第59位,Elo约243,紧挨着qwen3.6-27b和o4-mini-medium。Elo在这里被当作推理能力的一个代理指标,它落在中游推理模型/强小模型的同一区间里。

对局完成率是100%——完整下完,没有因为非法走法或对话中断而早死,协议遵循得完美,这正是类型安全换来的东西。

每局约36秒,每局约0.0015美元(每步约0.00002美元);80局总共约0.12美元,而Elo相邻的那些对手每局要花一美元以上。又快又便宜,便宜得离谱。

跟Dragon下,和棋率不降

Dragon执白对Jev执黑,每个等级下10局:L1、L2、L3三个等级,和棋率都是50%。平的。

大多数聊天模型不是这样——Dragon越强,和棋通常越少,因为引擎能把更多对局终结掉。但在这里,和棋率横跨三个等级都没有下降。这对Elo是有帮助的。

TypeSafe管这类模型叫System One:决策快,不做深度思考。

国际象棋仍然需要真正的选择——吃什么子、什么时候兑子、什么时候奔着和棋去。Jev没有聊天能力,每局成本只有零点几美分,却依然在Elo上落到了中游推理模型附近。所以这项技能不是“会写关于国际象棋的文字”,而是从一份清单里挑出一个走法。

几个可以带走的东西

TypeSafe并不想要一个公开排行榜来当自己的证明。这只是一次外部评测。

  • Jev适合那些你手上已经有一份选项清单的任务——工具、路线、标签、走法。让它一个字母一个字母地写英文是个糟糕的匹配(bue/helhoh)。
  • 每局约0.0015美元、约36秒,这是和美元级LLM评测完全不同的成本/速度量级。
  • 它有用的地方,是产品需要知道“选哪个选项”,而不是要一段文字——路由、结构化智能体、代码里的决策步骤。

榜单在LLM Chess,测试框架是maxim-saplin/llm_chess(feat/typesafe-jev-player分支/TypeSafe Jev player)。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
陈建州术后晒合照,王力宏帮其提尿壶,发长文自省:不抽烟不喝酒不应酬,但6年每天只睡三四小时,6点起床送小孩上学,“我以为撑得住”

陈建州术后晒合照,王力宏帮其提尿壶,发长文自省:不抽烟不喝酒不应酬,但6年每天只睡三四小时,6点起床送小孩上学,“我以为撑得住”

极目新闻
2026-09-17 20:52:18
住集装箱、男女混住、机场干等6小时?别再骂亚运会日本主办方了,真没故意坑外国选手

住集装箱、男女混住、机场干等6小时?别再骂亚运会日本主办方了,真没故意坑外国选手

可达鸭面面观
2026-09-18 13:22:17
泽连斯基已经向全世界亮明态度:乌克兰可以向俄罗斯投降,也可以放弃加入任何国际组织,但是唯独顿巴斯是坚决不会放弃!

泽连斯基已经向全世界亮明态度:乌克兰可以向俄罗斯投降,也可以放弃加入任何国际组织,但是唯独顿巴斯是坚决不会放弃!

扶苏聊历史
2026-09-18 18:02:45
浙江夜场整治事件舆论发酵!网传一女生从浙江回乡,先后相亲12个对象,听闻籍贯直接拒绝

浙江夜场整治事件舆论发酵!网传一女生从浙江回乡,先后相亲12个对象,听闻籍贯直接拒绝

火山詩话
2026-09-18 05:31:57
齐达内点兵!法国公布23人名单:5大新人+11将被弃 26岁法甲金靴圆梦

齐达内点兵!法国公布23人名单:5大新人+11将被弃 26岁法甲金靴圆梦

我爱英超
2026-09-19 06:26:31
“定位是假的,储物空间是没有的,刹车打滑”:近3000位车主吐槽他们的上班接娃买菜“搭子”,品牌方最新回应

“定位是假的,储物空间是没有的,刹车打滑”:近3000位车主吐槽他们的上班接娃买菜“搭子”,品牌方最新回应

都市快报橙柿互动
2026-09-19 01:03:32
人民日报发声:机关事业单位的隐性收入,正在消失

人民日报发声:机关事业单位的隐性收入,正在消失

细说职场
2026-09-18 16:35:31
河南一数学老师花300多万拍院线电影,上映三天票房不到3万,本人回应:已无力回天

河南一数学老师花300多万拍院线电影,上映三天票房不到3万,本人回应:已无力回天

互联网大观
2026-09-18 17:44:42
解气!法国籍女子在韩商场大喊:全世界都讨厌中国人!中国女子果断出手

解气!法国籍女子在韩商场大喊:全世界都讨厌中国人!中国女子果断出手

小鋭有话说
2026-09-18 23:26:06
拍出这张照片的人就是天才!网友:不得不佩服

拍出这张照片的人就是天才!网友:不得不佩服

摄影技巧入门教程
2026-09-18 16:18:32
新闻分析|亚运再次失利,中国男篮差距何在

新闻分析|亚运再次失利,中国男篮差距何在

新华社
2026-09-19 01:32:21
女子怀疑医生在其子宫装监听器,手机一放歌就异常!两次告上法庭

女子怀疑医生在其子宫装监听器,手机一放歌就异常!两次告上法庭

砚田文化
2026-09-18 08:34:48
疯狂?拜仁携7-0登顶德甲!1.7亿巨星戴帽+独造5球 凯恩百球里程碑

疯狂?拜仁携7-0登顶德甲!1.7亿巨星戴帽+独造5球 凯恩百球里程碑

我爱英超
2026-09-19 06:07:14
我42岁被优化,公司补偿我920万,手续办完后,一位实习生追了出来:你那920万不是赔偿款!

我42岁被优化,公司补偿我920万,手续办完后,一位实习生追了出来:你那920万不是赔偿款!

LULU生活家
2026-09-18 15:01:01
智谱ZCode被曝偷传用户数据,官方致歉

智谱ZCode被曝偷传用户数据,官方致歉

识礁Farsight
2026-09-18 18:06:56
中日篮球史上最耻辱一战!杨毅气得飙脏话,付政浩:郭士强辞职吧

中日篮球史上最耻辱一战!杨毅气得飙脏话,付政浩:郭士强辞职吧

十点街球体育
2026-09-18 23:34:32
广东佛山一男子高空作业从30楼下到2楼,发现绳子被2楼老人剪断,当事人:老人不知是高空作业,想当晾衣绳用,已赔偿费用

广东佛山一男子高空作业从30楼下到2楼,发现绳子被2楼老人剪断,当事人:老人不知是高空作业,想当晾衣绳用,已赔偿费用

潇湘晨报
2026-09-18 15:47:14
5年1.55亿美元!奥萨尔续约活塞:汤普森兄弟今夏斩获3.63亿美元

5年1.55亿美元!奥萨尔续约活塞:汤普森兄弟今夏斩获3.63亿美元

罗说NBA
2026-09-19 06:59:56
中国篮球之队发文回应“77-97负于日本男篮”:暴露出攻防多种问题;失利令人心情沉重,全队将深刻总结、调整状态,全力打好接下来的比赛

中国篮球之队发文回应“77-97负于日本男篮”:暴露出攻防多种问题;失利令人心情沉重,全队将深刻总结、调整状态,全力打好接下来的比赛

极目新闻
2026-09-19 00:42:11
离谱!只因父亲聊天时自称爸爸,被成年女儿直呼膈应,截图显示爸爸接她送她、带她吃饭给她付钱,评论炸锅

离谱!只因父亲聊天时自称爸爸,被成年女儿直呼膈应,截图显示爸爸接她送她、带她吃饭给她付钱,评论炸锅

火山詩话
2026-09-19 04:54:07
2026-09-19 11:27:01
Ping值焦虑
Ping值焦虑
有态度网友ytd
269文章数 101关注度
往期回顾 全部

科技要闻

要走650亿,智谱的理想越来越贵

头条要闻

主持人压在女玩家身上贴胸亲吻 网友:剧本杀该管管了

头条要闻

主持人压在女玩家身上贴胸亲吻 网友:剧本杀该管管了

体育要闻

好吧,中国男篮辛苦了

娱乐要闻

蔡卓妍小腹凸起疑怀孕?本人没回应

财经要闻

江西首富破产:一张927万商票压垮千亿帝国

汽车要闻

纯电/插混双动力+五座/六座双布局 海狮08应该怎么选?

态度原创

教育
家居
时尚
房产
公开课

教育要闻

小朋友不愿意做题目,怎么提高数学成绩呢?

家居要闻

2026建博会(广州) 公装联探展交流活动

裤子不用买贵的,蓝色牛仔裤永远不过时,大方百搭又不挑人

房产要闻

海口房价,降不动了!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版