自动模式成为默认选项
AI编程公司Replit正在把“智能模型路由”系统设为所有账户的默认配置。该系统会在任务执行过程中自动选择由哪个底层模型来处理,路由决策会综合权衡质量、速度和成本。
![]()
Replit表示,这项名为Auto mode的功能将成为所有用户的默认选项。Core和Pro订阅用户仍可手动覆盖该设置,在需要更多控制权时自行选择模型。
模型路由赛道近期动作密集
这一消息紧跟着模型路由领域的一系列动态。8月早些时候,Stripe同意以据报道80亿美元的价格收购模型网关平台OpenRouter;同一天,Ramp推出了Router.com,该平台会把请求路由到满足指定性能标准的最低成本模型。
更早之前的7月,SpaceX旗下的Cursor推出了自己的路由器,可自动为编程请求选择模型,并声称能以大幅降低的成本提供相当的性能。与此同时,据报道Meta正在开发一款名为“Switchboard”的内部路由器,它会按难度给编程任务打分,把较简单的任务交给更便宜的模型。
成本差距带来优化空间
Replit总裁兼AI负责人Michele Catasta表示,推动路由技术更广泛应用的一个原因很简单,就是经济性——模型成本与开发者在特定任务中实际所需能力之间的差距正在扩大。
“在同一个模型家族里,每个token的费率可能相差几个数量级。”Catasta告诉The New Stack,“与此同时,更便宜、更小的模型在智能水平上已经更接近它们更大的前沿同类,这给了我们很大的成本优化空间。”
长期测试后才推向公开
Replit朝这个方向推进已有一段时间。Catasta称,公司最近几个月一直在试验Auto mode的早期版本、子代理路由以及多个迭代版本。
“像任何关键发布一样,我们在beta阶段对智能模型路由进行了长时间测试,之后才决定公开发布。”他说,“最重要的收获是从第一性原理理解每个实验的失败模式,这样我们才能在刚刚交付的最终系统上持续爬坡优化。”
从免费模式扩展到更广范围
这项工作的基础在上周浮出水面,当时Replit推出了Free Mode,这是一种成本更低的Agent模式,不消耗使用额度,并会使用Auto在用量限制范围内替用户选择模型。
现在,同样的Auto路由方法正被更广泛地推广到Replit各处。该公司表示,智能模型路由系统会随着任务变化自动选择底层模型,并在路由决策中持续权衡质量、速度和成本。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.