网易首页 > 网易科技 > 网易科技 > 正文

新加坡云服务商Ready Server推出ReadyServer LLM API,VPS用户免费获得私有AI推理能力

0
分享至

(原标题:新加坡云服务商Ready Server推出ReadyServer LLM API,VPS用户免费获得私有AI推理能力)

  兼容OpenAI接口,通过内网调用开源大模型,无需API密钥,不按Token计费

  新加坡VPS云服务商Ready Server今日宣布推出ReadyServer LLM API。这是一项兼容OpenAI标准的私有AI推理接口,所有ReadyServer VPS套餐用户均可免费使用,无需额外付费。

  开发者、数字营销机构和科技企业可直接在现有的ReadyServer VPS上构建AI智能体、聊天机器人、RAG(检索增强生成)应用和编程智能体。整个过程无需管理API密钥,也不按Token计费。

  这一服务针对的是AI开发中日益突出的成本问题。单个Token的价格看似不高,但当应用从简单对话升级为自主运行的智能体时,调用量会迅速攀升。研究机构Gartner预测,到2028年,每个智能体工作流的AI推理成本将增长五倍以上。

  为了避开按量计费的API,不少团队转而租用独立GPU服务器。但对于只需周期性运行推理任务的小型团队来说,这意味着每月为大部分时间闲置的硬件支付高昂费用。

  ReadyServer LLM API采用了不同的模式。Ready Server不为每位用户单独分配GPU,而是搭建共享的AI推理基础设施,所有ReadyServer VPS用户都可通过内网访问。请求从用户的VPS直接发送到Ready Server的推理服务器,全程不经过公网。

  "用AI做开发,不应该每运行一次智能体,账单就跟着上涨。我们的许多客户都是精干的小团队,他们在打造真正的产品,需要放手去尝试、去迭代,而不是时刻盯着Token用量。我们把私有LLM API直接内置到每一台ReadyServer VPS中,就是为了让本地区的开发者以可预期、可负担的成本用好AI,而且就在他们已经部署在我们平台上的应用旁边。"

  ——Alan Woo,Ready Server董事

  面向开发者,兼容现有工具

  由于接口遵循OpenAI标准,开发者只需修改Base URL,即可将现有代码、SDK和框架接入ReadyServer。该服务支持curl、官方Python及Node.js OpenAI SDK、AI智能体框架、聊天界面、编程智能体以及其他兼容OpenAI的工具,无需额外安装任何软件。

  目前平台基于vLLM提供两款开源模型:

  • Qwen3.6-27B-FP8:主打快速直接响应,上下文窗口为131,072个Token

  • Qwen3.8-27B-FP8:具备深度思考能力的推理模型,上下文窗口为262,144个Token

  两款模型均支持工具调用、结构化JSON输出和图像输入,适用于文档检索、内容摘要、分类、数据提取及工作流自动化等场景。Ready Server计划后续上线更多模型。

  公平共享机制,成本清晰可控

  ReadyServer LLM API不按Token计量,而是采用公平共享机制,避免单一任务占用过多资源。高峰时段请求将进入排队,Token用量较少的用户优先获得响应。

  上线信息

  ReadyServer LLM API现已向所有ReadyServer VPS用户免费开放。技术文档和快速入门指南请访问readyserver.ai。

  关于Ready Server

  Ready Server成立于2015年,是亚太地区领先的新加坡VPS云服务商。公司提供高性能、企业级的基础设施,数据中心网络覆盖新加坡、香港和东京,以低延迟网络连接和不限流量带宽支撑高要求的数字化业务。凭借灵活的按小时计费模式,Ready Server帮助开发者和企业在亚洲主要枢纽快速扩展业务,享受稳定可靠、连接顺畅、简单易用的服务。

相关推荐
热点推荐
太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

太扎心了!25岁女子和前男友酒店发生关系,事后仍被拒绝复合,女子不甘心,从此前男友就消失不见了

丫头舫
2026-10-19 20:19:42
美专家警告美国:若不发动战争,与中国搞零和博弈,是一个大错误

美专家警告美国:若不发动战争,与中国搞零和博弈,是一个大错误

陌上桃花开的
2026-10-20 04:09:27
默克尔罕见表态:妥协也得有底线,绝不允许德国落到选择党手中!

默克尔罕见表态:妥协也得有底线,绝不允许德国落到选择党手中!

沉醉美色
2026-10-19 17:05:07
中央亮剑!多地开启机关事业单位大整顿,这几类人受影响最大

中央亮剑!多地开启机关事业单位大整顿,这几类人受影响最大

职场资深秘书
2026-10-19 15:13:49
徐帆回应离婚5个月,冯小刚近况曝光,内心早已看透一切

徐帆回应离婚5个月,冯小刚近况曝光,内心早已看透一切

往史过眼云烟
2026-10-20 09:35:06
治不了中国,就再造一个中国?美国已经挑好了这2个国家,是谁?

治不了中国,就再造一个中国?美国已经挑好了这2个国家,是谁?

聊历史的阿稼
2026-10-19 11:42:01
滕哈赫:C罗训练水准不达标,换卡里克解决不了问题

滕哈赫:C罗训练水准不达标,换卡里克解决不了问题

体坛周报
2026-10-20 17:09:10
房价拐点来了?9月数据给出肯定答案

房价拐点来了?9月数据给出肯定答案

中国商报
2026-10-19 17:51:58
全岛被灭口,这片也能上映?

全岛被灭口,这片也能上映?

战争电影精选
2026-10-20 13:12:44
高速通行费改革正式落地!车主通行费用迎来新变化,跑高速前一定要先看懂!

高速通行费改革正式落地!车主通行费用迎来新变化,跑高速前一定要先看懂!

娱乐圈的笔娱君
2026-10-19 16:05:45
早上7点!NBA揭幕战:4巨头VS卫冕冠军,恩比德独抗内线,詹姆斯重返东部首战

早上7点!NBA揭幕战:4巨头VS卫冕冠军,恩比德独抗内线,詹姆斯重返东部首战

兵哥篮球故事
2026-10-20 18:53:27
网传“退休金比打工人工资还高”,评论区炸锅了

网传“退休金比打工人工资还高”,评论区炸锅了

墨言执笔
2026-10-13 05:47:41
李小冉凌晨发文怒斥:删我评论对吧,你那么见不得人吗

李小冉凌晨发文怒斥:删我评论对吧,你那么见不得人吗

南方都市报
2026-10-20 11:01:47
9-1开局都赢不下来:温瑞博那句"脑子全是浆糊",戳穿了国乒男单14人只剩1人进8强的病根

9-1开局都赢不下来:温瑞博那句"脑子全是浆糊",戳穿了国乒男单14人只剩1人进8强的病根

乒芯21st论坛
2026-10-20 07:00:25
1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

1980年,邓小平说:毛主席的错误,要毫不含糊地批评,但要实事求是

帝哥说史
2026-10-11 16:14:43
马科斯赌输了!天灾想等中方援助,等来的却是深圳的禁令。

马科斯赌输了!天灾想等中方援助,等来的却是深圳的禁令。

果妈聊娱乐
2026-10-20 15:42:22
我伺候独居老人八年,他临终把房子留给了我,一双儿女回来闹翻天

我伺候独居老人八年,他临终把房子留给了我,一双儿女回来闹翻天

真实人物采访
2026-10-19 17:43:57
中纪委明确划红线!要求各地哪怕脱层皮,也要一抓到底!

中纪委明确划红线!要求各地哪怕脱层皮,也要一抓到底!

职场资深秘书
2026-10-20 10:37:07
那个把亏损60亿的“僵尸企业”救活的人,卸任5年后被查了

那个把亏损60亿的“僵尸企业”救活的人,卸任5年后被查了

奇思妙想生活家
2026-10-20 14:08:52
中国驻新加坡大使馆:一餐厅冒用使馆名义赠送花篮,要求其立即纠正错误

中国驻新加坡大使馆:一餐厅冒用使馆名义赠送花篮,要求其立即纠正错误

新京报
2026-10-20 13:05:07
2026-10-20 20:27:00

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

头条要闻

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

头条要闻

21岁驴友遇难 死前表达"饿了"并解开了手机锁屏密码

体育要闻

30天30队·奇才:三状元一榜眼 35胜?

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

教育
艺术
旅游
房产
公开课

教育要闻

热门工科,计算机、电气、自动化等5大专业一次讲透

艺术要闻

赵孟頫写了500多遍的行书,笔笔精纯、字字完美,达到了“书圣”的水准!

旅游要闻

旅业采购 | 寻找旅游路线、海外酒店资源

房产要闻

488亩,两大豪宅级项目爆出!清水湾,要杀回来了!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版
×