北京
DigitalOcean内部数据显示，88%的token运行在开放权重模型上，较2026年5月增长27%。同期token总量在六个月内增长50%。这组数字指向一个正在发生的结构性变化：开发者对单一模型的忠诚度正在消退。
上周的Open Intelligence Summit（OIS）上，来自英伟达、Amplitude、Open Hands和Nous Research的演讲者，讨论的正是这个越来越模块化、多模态的AI技术栈。没有两套AI技术栈是完全相同的，这种开放生态正在成为架构的新标准。
模型不再被锁定，新的中间层随之出现：路由器。Vals AI的分析把路由器定义为一种新的AI原语。它根据质量和单次请求成本来选择模型，应用不必每次有新模型发布就重新做选型。开发者也能按使用场景挑模型，而不是被前沿模型或某一家供应商绑死。
开放标准正在承担过去闭环系统和前沿模型所做的工作，工具链也在跟进：
- DeepSeek开放了Search和Fetch API，以Markdown形式向智能体和RAG管道返回实时网页内容。
- Perplexity开源了其智能体沙箱。
- Anthropic对OpenTelemetry的支持，意味着不同供应商的追踪数据可以共享同一套仪表盘。
当模型可以互换，差异化就转移到开发者能控制的层：评估、可观测性、安全和成本。可以微调的不止一层，开发者需要具体的AI技术栈管理方案——把模型调用抽象到路由层之后，用OpenTelemetry统一智能体追踪，构建能对任何模型重跑的评估，并保持一个成本仪表盘常开。
在OIS上发布的Managed Agents和Agent Learning Services，配合缓存感知的Inference Router，指向的正是这套思路：构建AI产品，同时掌握自己的智能能力。
行业层面的采用情况则呈现出另一面。a16z的State of Markets II演示发现，69%的标普500公司有已上线的AI部署，约30%报告了可量化的结果，但只有约2%为此追踪指标。按AI支出排名，前1%的公司支出约为前10%的八倍。差距的关键不在工具获取，而在于把AI绑定到可衡量的工作流上。
产品侧，OpenAI的GPT-6发布引入了“Intelligent UI”，模型可以在对话内用图表、按钮、表单和储蓄计算器、账单分摊这类快捷工具来回应。OpenAI还表示，GPT-6 Instant在网页搜索类问题上开始回答的平均时间比GPT-5.6 Instant快44%。
推理成本同样是这套技术栈的核心变量。同样每小时3美元的GPU，按满载或10%利用率运行，每百万token的成本可能约为0.30美元，也可能约为3美元。冷启动、连续批处理和KV缓存上限，共同决定了单次请求的成本。
在DigitalOcean Serverless Inference上对六个模型的380次调用中，五个模型在短提示下的首token时间中位数落在0.88到0.98秒之间，但DeepSeek V3.2在80次调用中有两次分别达到78.3秒和186.9秒。
训练侧的选择题也被量化了：在60分钟节奏下，Spot GPU适合单节点任务，以及具备弹性重启能力的多节点任务。模拟回收后恢复98.3 GB检查点，MI355X耗时706.5秒，B300耗时436.6秒。
DigitalOcean同期进入公开预览的能力包括：Insights，把智能体、应用和基础设施的指标、日志与追踪集中到一处，无需安装或埋点；增强版Inference Router，按任务表现、成本和延迟自动选模型；Evaluations下的Simulations，在隔离沙箱中用多轮真实场景测试变更；以及Signals，自动监控生产流量中的用户情绪、工具执行和基础设施问题，标记的会话可一键转为评估场景。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
