网易首页 > 网易号 > 正文 申请入驻

每一条提示词都开一场拍卖,这家交易所杀进LLM推理

0
分享至

一家做期货交易所的公司,把拍卖机制搬到了大模型推理上。Architect Financial Technologies 推出 Liquid Inference,一个为每一次请求实时竞价的 LLM 路由器。对开发者来说,动作只有一个:换掉 base URL,代码不动,让供应商在价格上互相厮杀。

这不是又一个 API 聚合层。它的核心机制是交易所式的双边定价——供应商挂出报价,买家按规则挑最低价成交。


每一次请求,都是一场拍卖

Liquid Inference 的运作方式接近交易所撮合。供应商针对特定模型发布报价,每一个请求都会在所有报价该模型的供应商之间进行拍卖。最终胜出的,是满足买家规则的最低报价。

买家这一侧可以设置的约束相当细:

  • 单个任务的成本上限
  • 首 token 时间限制
  • 最低吞吐量要求
  • 指定可用区域、零数据留存
  • 供应商或模型白名单

此外还有一个 Auto 模式,可以针对给定的工作单元自动挑选模型。据 Harrison 在 LinkedIn 的帖子,产品还提供路由规则预设,并支持完整的多模态能力。

这套逻辑的关键在于,价格不是平台定的,是供应商自己报的。谁能接受更低的价,谁就接到这一单。

做市的是家期货交易所

Liquid Inference 出自一家交易公司,而不是 AI 实验室。Architect 运营着 AX 永续期货交易所。2026 年 5 月,它收购了一家美国指定合约市场,用于上市 GPU 算力期货,目前仍在监管审查中。


团队把搭建金融交易所的经验,直接用来为推理做双边价格发现。这个背景解释了产品为什么长成现在这样——订单簿、报价、清算交易,这些词出现在一个 LLM API 里并不常见。

账户持有者可以查看实时订单簿、按供应商和按模型的报价,以及已清算的交易。对 LLM API 来说,这种级别的市场数据并不寻常。

供应商的接入走 Liquid Inference 应用。Harrison 表示,新供应商的验证是「几分钟,而不是几周」。所有提示词都使用 OpenAI API 标准。一套 REST 和 WebSocket API 负责注册模型和报价。

供应商可以根据自身成本更新报价。这意味着他们可以在想卖的时候,才把闲置 GPU 算力拿出来卖。结算通过 Stripe 完成,每一笔任务都有明细记录。

闲置算力多了一个出口

把报价权交给供应商,实际效果是让算力供给变得更有弹性。手里有闲置 GPU 的一方,不必签长期合约,也不必接受平台统一价,可以按自己的成本线决定什么时候进场。

对买家而言,规则约束加上竞价机制,理论上能把每一单的价格压到当前市场能满足条件的最低点。成本上限、延迟要求、吞吐底线这些条件,构成了买家的出价边界。

这套设计能不能跑通,取决于两件事:报价的供应商是否足够多,以及竞价是否真的能持续产生更低的成交价。Architect 给出的答案是把它做成一个市场,而不是一份价目表。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
胡兆民任赤峰市委副书记、市政府党组书记 此前担任内蒙古交投集团董事长

胡兆民任赤峰市委副书记、市政府党组书记 此前担任内蒙古交投集团董事长

中国经济网
2026-10-09 14:30:15
1999美元的iPhone Duo,预售直降1000美元

1999美元的iPhone Duo,预售直降1000美元

硅屿手记
2026-10-09 07:25:07
湖南永州周某某,人美心善情人多,不应该过度关注她的私生活

湖南永州周某某,人美心善情人多,不应该过度关注她的私生活

汉史趣闻
2026-10-09 15:30:19
“这种环境都能排卵?”女毕业生表白单位男领导,评论区炸锅了

“这种环境都能排卵?”女毕业生表白单位男领导,评论区炸锅了

世界圈
2026-10-05 20:58:42
中央批准:王娇萍赴河北履新,任省委常委

中央批准:王娇萍赴河北履新,任省委常委

中国青年报
2026-10-09 15:18:13
樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

樊振东恋爱真相大白!在德国的现状曝光,难怪首次谈及退役及心愿

趣味八卦
2026-10-03 11:11:17
为什么央行持续增持黄金而散户需理性?

为什么央行持续增持黄金而散户需理性?

风铃草语
2026-10-09 04:14:46
央视曝光!佤邦联盟副司令已经落网,白应兰还能逃亡多久

央视曝光!佤邦联盟副司令已经落网,白应兰还能逃亡多久

放开他让wo来
2026-10-08 13:06:44
丰田章男的孤独:新发动机一箱油跑1200公里,但世界不跟他玩了

丰田章男的孤独:新发动机一箱油跑1200公里,但世界不跟他玩了

麓谷隐士
2026-10-07 00:10:04
日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

日本全面叫停种植牙?种牙潜藏的风险与后遗症,一次为你讲明白

健康科普365
2026-08-13 14:30:15
郁亮,出事了!

郁亮,出事了!

大佬灼见
2026-09-17 09:18:35
老祖宗告诫:“父母走后,三亲要断交”!哪三亲?为何要断?

老祖宗告诫:“父母走后,三亲要断交”!哪三亲?为何要断?

九哥哥车评
2026-10-09 13:21:09
哭穷炫富,“知三当三”,装了10年的吉克隽逸,还是“自食恶果”

哭穷炫富,“知三当三”,装了10年的吉克隽逸,还是“自食恶果”

杰丝聊古今
2026-06-07 02:12:52
张一鸣:遍地都是赚到百万的项目,但是99%的人选择埋头打工

张一鸣:遍地都是赚到百万的项目,但是99%的人选择埋头打工

一些小事
2026-09-22 06:17:58
1941年,山西土匪乔日成投靠日军后,没想到日军中将竟亲自带着10000多人前来围剿他,乔日成闻讯狠狠摔碎酒碗,大喊:"跟小鬼子拼了!"

1941年,山西土匪乔日成投靠日军后,没想到日军中将竟亲自带着10000多人前来围剿他,乔日成闻讯狠狠摔碎酒碗,大喊:"跟小鬼子拼了!"

磊子讲史
2026-09-01 11:48:09
记者姬宇阳:全中超国脚助国足突破难度清晰可见

记者姬宇阳:全中超国脚助国足突破难度清晰可见

懂球帝
2026-10-09 11:29:19
尊界的刹车踏板断了,但大老板的咖啡不能洒

尊界的刹车踏板断了,但大老板的咖啡不能洒

吃瓜体
2026-10-08 11:36:45
女子连麦张雪哭诉“男友进ICU”要退车!企业一查:人在车行提车,诊断书写的是骨折

女子连麦张雪哭诉“男友进ICU”要退车!企业一查:人在车行提车,诊断书写的是骨折

听心堂
2026-10-08 12:12:14
郭德纲风波处罚刚落地!41岁岳云鹏再传坏消息,被起诉仅冰山一角

郭德纲风波处罚刚落地!41岁岳云鹏再传坏消息,被起诉仅冰山一角

潋滟晴方DAY
2026-10-09 13:49:16
比缅北凶险100倍!曾经的旅游胜地,如今黄赌毒俱全,乱象随处可见

比缅北凶险100倍!曾经的旅游胜地,如今黄赌毒俱全,乱象随处可见

琅琊财经
2026-07-31 22:02:18
2026-10-09 16:43:00
摸鱼算法
摸鱼算法
致力于用最前沿的AI技术,换取更多发呆时间的三十岁青年。
210文章数 74关注度
往期回顾 全部

科技要闻

字节"干扰模型训练"实习生融资近2亿元

头条要闻

男子与堂嫂系情人关系分手后欲纵火同归于尽 法院判了

头条要闻

男子与堂嫂系情人关系分手后欲纵火同归于尽 法院判了

体育要闻

30天30队·鹈鹕:胖虎又一年“如果”

娱乐要闻

吴奇隆宣布重要决定,走上谢霆锋老路

财经要闻

央行为何发布关于人民币汇率的政策立场

汽车要闻

比亚迪第三代唐内饰发布 两种风格/巨幕屏最抢眼

态度原创

亲子
本地
时尚
数码
公开课

亲子要闻

小猪佩奇的妈妈背后隐藏的身份!

本地新闻

转型再出发 奋勇打头阵

从夜幕金辉到另类宇宙,巴黎更美了吗?

数码要闻

才买的蓝牙耳机音质变差?可能是麦克风在捣鬼!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版