816B模型塞进SageMaker，1M上下文不用再切代码库

这周的更新可以分成两类：一类是悄悄解锁合规场景的基础设施改动，另一类是必须马上动手的安全补丁。中间还夹着一个816B的MoE模型上了SageMaker，以及一个不用再天天盯Anthropic发布日志的CLI插件。

先说最急的。Next.js有两个严重远程代码执行漏洞，影响自托管的15.x和16.x版本。一个是AVIF图片处理路径，一个是Windows文件系统路径问题，两者都允许未认证的远程代码执行。托管在Vercel上的应用服务端已经受保护，自托管部署需要立刻升级。

通过图片处理实现未认证RCE，严重程度不用多说。如果你在自托管，这事排不进下个迭代。15.x升到next@15.5.24，16.x升到next@16.3.3。Windows文件系统那个变体，在libheif修复到位之前，补丁版本会原样返回AVIF，没有能替代升级的绕行方案。跑在Vercel上什么都不用做；Windows自托管的话，今天清单上就这一件事。

再看模型侧。Meta的Llama Spark以托管SageMaker端点的形式开放部署，816B的MoE，上下文窗口1M token。稀疏激活意味着每个token只点亮42B参数，这个规模才变得可操作。NVFP4量化版本能塞进ml.p5e.48xlarge，BF16则需要ml.p6-b300.48xlarge。

1M上下文的意义在于，整个大型代码库可以一次性载入，不用再写分块逻辑。多文件重构、全库范围调试这类活，架构上的差别是实打实的——你不再管理上下文窗口，而是把模型当成一个能看到完整项目的同伴。推理留在自己的AWS账号里，敏感代码库也就没有了对外传输的顾虑。

建议从NVFP4版本起步，先在自己的负载上跑质量基准，再决定要不要上BF16。有个运营细节别忽略：端点只要在运行就计费，跟有没有流量无关，别让它空转。需要SageMaker SDK v3，以及p5e或p6实例的配额审批，配额申请要留出提前量。

合规这块有个实质性变化。Claude Opus 5和Sonnet 5的推理现在完全跑在首尔（ap-northeast-2）和新加坡（ap-southeast-1）区域内，走bedrock-runtime，没有跨区域路由。InvokeModel、Converse和原生Anthropic SDK都有代码示例，改的是客户端初始化，不是架构。

亚太受监管行业——金融、医疗、公共部门——的数据驻留要求，过去用前沿模型要么自建推理设施，要么申请合规例外。现在这个绕行方案不需要了。有驻留要求的，把客户端初始化指向区域端点就完事；吞吐受区域容量和服务配额约束，上规模的话要盯着。没有驻留要求的团队，现有配置不用动。

视频处理那边，Pegasus 1.5上了Bedrock，通过InvokeModel调用。请求体里传分段定义，返回的是标出视频中每个匹配区域的JSON时间戳，单次请求最长两小时，不需要预先建索引管线。视频用S3 URI或base64传入，输出通过Bedrock标准API直接接进元数据管线。

大规模处理视频档案，现状要么人工打标，要么用基于片段的QA模型，还得在上游先把素材切块。Pegasus把切块这一步整个跳过了，直接返回结构化时间码，可以往下游系统里灌。对存着大量未标注视频库的团队，这是工作流的替换，不是增量改进。目前在美国西部（us-west-2）可用，需要IAM调用权限并在Bedrock控制台开通，都是标准配置。要注意的是英语之外的语言支持不完整，国际部署得先做额外预处理。

工具链上还有两个小东西。Vercel的Token Pass是每月30美元的订阅，打包80美元的模型额度，覆盖GLM 5.3和Kimi K3，走Vercel的AI Gateway，默认开启零数据保留。团队拿到的是单一账单面，不用在多个模型供应商账号之间来回倒，硬性额度上限也意味着月底不会冒出超额账单。

多模型工作流对跑编码agent的团队已经是常态，按任务类型切换供应商是日常动作。通过AI Gateway集中管理、默认开ZDR，是个合理的默认姿态，尤其对训练数据暴露敏感的团队。80美元的额度上限在评估期是个不错的成本纪律约束。目前供应商名单还是早期访问限制，关键业务别急着迁，先跑一个冲刺验证账单体验再说。

llm-anthropic 0.30加了两个命令。llm anthropic refresh直接从API拉当前Claude模型列表，不用等插件更新；llm anthropic count在发推理请求之前，先对着Anthropic的免费计数API跑一遍token统计。两个都在0.30及以上版本可用。

模型发布和插件更新之间的版本滞后，对用llm CLI快速迭代的人来说是真烦。refresh把模型可用性和插件发布节奏解耦了。count比听起来实用——推理前先干跑一遍token用量，是拦住昂贵提示词错误最直接的办法，在账单出来之前就拦住。用llm CLI跑Anthropic模型的，直接升。