网易首页 > 网易号 > 正文 申请入驻

一个开源项目正在解决AI推理的"比价难题"

0
分享至

选个AI模型做推理,你得打开十几个标签页比价——同样的GPT-4,这家收0.03美元,那家要0.30美元,延迟差十倍,稳定性全靠赌。这不是假设,是每天发生在工程师屏幕前的真实场景。

OpenModels想终结这种混乱。这个开源项目要做的事很直接:给碎片化的AI推理生态建一张可查询的地图,把模型、供应商、价格、延迟全部结构化。


项目维护者列出的痛点很具体:同一模型在不同供应商处价差可达10倍;延迟波动没有公开数据;供应商页面价格随时会变,没有追踪机制;选供应商意味着手动建表格对比15个网页。训练工具已经成熟,但"基础设施的可观测性"仍是空白。

目前注册表追踪62个模型,覆盖OpenAI、Anthropic、Google、Meta、DeepSeek、Mistral、xAI等;30家供应商,包括Together AI、Groq、DeepInfra、Cerebras、Fireworks、SambaNova;以及90余条供应商-模型映射关系,每条都包含定价、速率限制和区域数据。

技术架构分两层。底层是开放注册表,用YAML文件在GitHub维护,分models(模型定义)、providers(供应商定义)、mappings(带价格的映射关系)、schemas(JSON Schema验证)四个目录。每次合并请求必须通过四道自动化检查:YAML语法、Schema合规、引用完整性、重复ID检测。

上层是平台层,消费注册表数据并叠加运营智能:REST API(api.openmodels.run)支持模型发现和供应商对比;Web界面(openmodels.run)提供搜索、命令面板和生态图谱;遥测Worker每5分钟健康探测、每15分钟延迟探测。

代码完全公开:github.com/openmodelsrun/openmodels。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
退休党员别再乱交党费了!2026标准已明确,不少人白交多年冤枉钱

退休党员别再乱交党费了!2026标准已明确,不少人白交多年冤枉钱

笑熬浆糊111
2026-05-13 00:05:16
彻底撕破脸!央视硬刚天价转播费后,资本报复手段简直不堪入目

彻底撕破脸!央视硬刚天价转播费后,资本报复手段简直不堪入目

真的好爱你
2026-05-12 06:49:30
24小时内,中国收3个好消息!特朗普的第一份大礼,已经到位了!

24小时内,中国收3个好消息!特朗普的第一份大礼,已经到位了!

千里持剑
2026-05-13 11:31:35
3分钟倾家荡产?年入千亿“精神鸦片”,正精准掏空中国人的钱包

3分钟倾家荡产?年入千亿“精神鸦片”,正精准掏空中国人的钱包

趣文说娱
2026-05-12 19:53:22
特斯拉宣布停产,震惊全网!

特斯拉宣布停产,震惊全网!

财经三分钟pro
2026-05-12 15:10:58
彭加木被找到了!知情人:DNA专家说99%就是彭加木,但有个遗憾!

彭加木被找到了!知情人:DNA专家说99%就是彭加木,但有个遗憾!

拳击时空
2026-05-12 05:55:35
“尴尬的外交事件”!外媒:联合国副秘书长在以色列机场被扣留并受到讯问,当事人发声

“尴尬的外交事件”!外媒:联合国副秘书长在以色列机场被扣留并受到讯问,当事人发声

环球网资讯
2026-05-13 11:39:46
特朗普即将访华,启程前提了个要求,向中方点名要这个人

特朗普即将访华,启程前提了个要求,向中方点名要这个人

带你领略世界风采
2026-05-08 18:05:23
终于知道大爷大妈经常跑银行的原因了!网友:后来我辞职了!

终于知道大爷大妈经常跑银行的原因了!网友:后来我辞职了!

另子维爱读史
2026-05-13 07:40:13
这一刻等了21年!U17国足进世界杯仅一夜 主帅被喊下课 原因曝光

这一刻等了21年!U17国足进世界杯仅一夜 主帅被喊下课 原因曝光

侃球熊弟
2026-05-13 02:34:06
累死多少牛,耕不坏的田,顶中顶!

累死多少牛,耕不坏的田,顶中顶!

贵圈真乱
2026-05-13 09:40:36
文班亚马、卡斯尔、凯尔登与哈珀的天王山

文班亚马、卡斯尔、凯尔登与哈珀的天王山

张佳玮写字的地方
2026-05-13 11:34:30
宇树科技回应“载人机甲售价390万”:目前价格确实比较贵,会根据性能优化情况进行调整,具备大批量生产能力

宇树科技回应“载人机甲售价390万”:目前价格确实比较贵,会根据性能优化情况进行调整,具备大批量生产能力

鲁中晨报
2026-05-12 17:50:21
为啥现在没人买枇杷了?不是大家不爱吃,是这4个现实原因劝退

为啥现在没人买枇杷了?不是大家不爱吃,是这4个现实原因劝退

椰青美食分享
2026-05-13 00:55:06
西甲欧冠5席位全出炉!贝蒂斯时隔20年再参赛,26岁安东尼终圆梦

西甲欧冠5席位全出炉!贝蒂斯时隔20年再参赛,26岁安东尼终圆梦

我爱英超
2026-05-13 05:38:11
太平军攻南京有多惨烈?将军祥厚及五千旗兵全部被杀,满人被屠尽

太平军攻南京有多惨烈?将军祥厚及五千旗兵全部被杀,满人被屠尽

老范谈史
2026-05-11 19:45:11
水谷隼彻底揭穿张本宇一家在日本受尊重的谎言!

水谷隼彻底揭穿张本宇一家在日本受尊重的谎言!

生活新鲜市
2026-05-13 02:38:57
亚洲杯太残酷了:随着中国2-0,日本3-1,2大劲旅已经被送回家

亚洲杯太残酷了:随着中国2-0,日本3-1,2大劲旅已经被送回家

侧身凌空斩
2026-05-13 02:00:18
日系供应链集体失守!丰田日产大举采用中国零部件:成本低3成、质量还一样

日系供应链集体失守!丰田日产大举采用中国零部件:成本低3成、质量还一样

快科技
2026-05-12 12:20:06
大碗宽面被人捞出去了

大碗宽面被人捞出去了

毒舌扒姨太
2026-05-12 22:34:02
2026-05-13 12:11:00
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
2575文章数 26关注度
往期回顾 全部

科技要闻

谷歌剧透安卓重大升级 Gemini深度集成底层

头条要闻

特朗普访华随行名单:次子夫妇、鲁比奥随行 夫人缺席

头条要闻

特朗普访华随行名单:次子夫妇、鲁比奥随行 夫人缺席

体育要闻

14年半,74万,何冰娇没选那条更安稳的路

娱乐要闻

巩俐用中文宣布戛纳开幕,彰显国际地位

财经要闻

深圳夫妻囤芯片,身家飙涨320亿

汽车要闻

吉利银河“TT”申报图曝光 电动尾翼+激光雷达

态度原创

教育
手机
游戏
房产
军事航空

教育要闻

课堂中的脑科学:《教师不可不知的脑科学知识》让教学真正“扎根脑中”!

手机要闻

6.9英寸超大直屏标准版 小米17 Max本月见

单机成"时代弃子"!重磅IP新作恐怕无了 得卖1500万份

房产要闻

海口禁摩,3.3万名车主要慌了!

军事要闻

知情人士披露:美国或考虑恢复对伊朗军事行动

无障碍浏览 进入关怀版