北京
一个团队花了一个季度搭起自托管的GPU集群，就为了让10-K文件的处理流程永远不碰第三方。集群跑起来了，10-K安全了。然后有人发现，投资组合笔记和客户备忘录——那些不该被外部看到的文件——正通过另一条早于集群存在的服务，发往一个托管API。
他们小心翼翼地加密了SEC免费公开的文件，却把机密的东西从侧门送了出去。
这个错误很常见，因为"金融文档"听起来像是一个类别。实际上它至少是三类。公开申报文件是公开数据；客户和投资组合文件承载着对他人的义务；内部研究承载着你自己的竞争利益。每一类对推理在哪里运行的要求都不同，成本和运维的权衡，只有在你搞清楚一个工作负载属于哪一类之后才说得通。
第一步：先分类，再选基础设施
从清点管道里流动的东西开始，按"谁有权看到它"分组。给每一类加上体量，以及每类用到哪些任务：OCR、抽取、嵌入、重排、生成。
这张表通常会显示：公开申报文件占据体量的大头，私有文件占据风险的大头。这两个事实指向不同方向，所以对整个管道给出单一答案，往往是错的。
边界要划准。一份公开的10-K，一旦被标注上某个客户在其中的持仓，它就变成了客户材料。文件是公开的，标注不是。
第二步：搞清楚每一类到底需要什么隐私
对公开申报文件来说，文档文本的隐私要求接近于零。SEC会发布它们，EDGAR的全文检索覆盖2001年以来的电子申报，data.sec.gov的API无需认证就能提供结构化数据。
可能仍然敏感的是查询模式：你在分析哪些公司，以及什么时候分析。对很多团队来说这无所谓。对研究机构来说往往有所谓：自选股清单就是优势，一份在建立仓位前一周针对少数中盘股申报文件的查询日志，比任何内部笔记都更能说明你的持仓。
对客户和内部文件，问题是你承诺了什么、对谁承诺。去读客户协议和内部数据政策，而不是一般性法规，然后把答案用大白话写下来：这些文件能否由第三方提供商处理，在哪些地区，按什么条款？这个答案，而不是"金融"这个词，决定了托管推理对这一类是否可接受。
第三步：按利用率比成本，而不是按标价
托管和自托管推理的计价单位不同，所以要放在同一个工作负载上比：
- 托管：按处理单位付费，比如token、页数或配对。空闲时间不花钱。
- 自托管：按小时为GPU付费，不管忙不忙，再加上集群周边的开销。有效单位成本随利用率上升而下降。
申报类工作负载是季节性的。年报在财年结束后成波到来，10-K的截止期按申报人规模分为60天、75天或90天，季报则在每季度后40天或45天跟进。波峰之间，一个按峰值配置的自托管集群大部分时间闲置，除非它能缩容。
一个演算示例。这里每个数字都是为说明而虚构的，不是Superlinked的价格、基准或客户结果：
自托管、常开：2块GPU × 每小时2.50美元 × 730小时 = 每月3650美元，忙闲都一样。
实际负载：申报季几周36万页，加上淡季9万页 = 每季度45万页，即每月15万页。有效成本：3650 ÷ 15万 ≈ 每页0.024美元。
托管按假设的每页0.01美元：15万 × 0.01 = 每月1500美元。自托管只有在每月超过36.5万页时才能追平，还没算工程时间。
换掉输入，答案就变。一个能在波峰之间缩到零的集群会压低第一行；全年稳定的体量会抬高第二行。把你自己的体量、GPU费率和利用率放进同样的三行，再加上运维集群的工程时间，交叉点完全取决于你的负载有多平稳。
第四步：决定谁来值班
运维是电子表格会漏掉的成本。自托管意味着你的团队要负责：
- 你云账户里的GPU容量和配额
- Kubernetes、自动扩缩和节点池
- 模型升级、回滚和安全补丁
- 申报季推理中断时的监控、告警和事件响应
托管推理把这些转移给提供商。留给你的，是集成、评估，以及决定发送什么。诚实面对你的团队是否有平台能力把GPU服务跑好。跑得差往往比不跑更糟，因为故障总在季度最忙的时候出现。
第五步：设计混合方案
对许多构建文档产品的金融团队来说，走完前四步后的答案是拆分：公开申报文件放在托管推理上，用按量计费吸收季节性波峰；客户和内部文件留在自托管上，因为义务要求如此。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
