网易首页 > 网易号 > 正文 申请入驻

15个配置项砍到2个,Snowflake自适应计算在改什么?

0
分享至

你运行的每个 Snowflake 标准型虚拟仓库,都拥有独立的计算资源池,与其他虚拟仓库相互隔离。路由至该虚拟仓库的查询可以使用其可用计算容量,而路由至其他虚拟仓库的查询则无法使用。


这种隔离机制为不同工作负载提供了独立的成本控制、服务级别协议(SLA)和成本核算能力。但它也带来一个副作用:当某个虚拟仓库出现查询排队时,另一个虚拟仓库的闲置计算资源无法用于缓解拥堵。


问题在于,能否在保留这些隔离边界的同时,避免资源浪费?自适应计算(Adaptive Compute)给出的答案是:共享计算资源、按查询动态调整计算规模、用两个属性取代原有的 15 个以上配置项,以及支撑这一切的准入控制机制。


四项原则,对应四个旧问题

自适应计算建立在四项核心原则之上。每一项原则都针对标准型虚拟仓库模式中的一个问题:过去需要用户提前做出的配置决策,现在可以由平台根据实时情况作出更合理的判断。

  • 共享计算(Shared Compute):多个工作负载共享同一个计算资源池,无需每个虚拟仓库分别保留闲置容量。
  • 自动调整计算规模(Autosizing):每条查询都能获得与其需求相匹配的计算规模,无需预先选定一个固定规模并将其应用于所有查询。
  • 最新硬件与软件加速能力:自动使用最新的硬件和查询加速技术,无需手动升级或重新配置。
  • 易用性:标准型虚拟仓库需要管理 15 个以上的配置属性,而自适应计算将其简化为两个。

虚拟仓库规模、多集群设置、查询加速服务(Query Acceleration Service)配置,以及自动挂起和恢复策略,都不再需要用户自行管理。

共享计算:从资源孤岛到账户级资源池

自适应计算通过改变虚拟仓库底层的计算资源组织方式来实现资源共享。账户中所有自适应虚拟仓库的任务,都会被路由至该账户专属的计算资源池。这个资源池不会与其他账户共享,也不会与其他类型的虚拟仓库共享。

各个虚拟仓库仍然是相互独立的访问端点,用于组织、治理工作负载并生成相关报告,但执行查询的底层计算资源已经实现池化。

在传统模式下,你看到的并不是一个统一的资源池,而是许多个彼此隔离的计算资源孤岛。每个正在运行的虚拟仓库都是一座独立的孤岛,分别配置计算规模、分别计费。每座孤岛内部的计算容量,只能由路由至对应虚拟仓库的查询使用。

这是一个架构层面的问题。一旦计算资源按照虚拟仓库进行划分,每个虚拟仓库都必须为自身的峰值负载预留容量。而当峰值尚未到来时,这些容量便无法被其他工作负载利用。

客户组织计算资源主要有三种方式,在自适应计算推出之前,用户只能选择前两种:

  1. 独立虚拟仓库:每个虚拟仓库都预留了无法充分利用的闲置容量,因此无法获得资源整合带来的成本节约。
  2. 少量大型整合式虚拟仓库:可以重新利用闲置计算资源,但会增加查询路由的复杂性,同时削弱成本控制和服务级别协议所依赖的工作负载级隔离边界。
  3. 共享计算:既能获得资源整合带来的成本节约,又能保留工作负载级的隔离边界。

这里还有一项会不断累积的收益。迁移至自适应计算的虚拟仓库越多,资源池汇聚的总需求就越大,系统高效调度查询的机会也越多。这也解释了为什么仅迁移一个虚拟仓库时,获得的收益通常最少。

每条查询都有自己的计算规模

传统虚拟仓库要求所有查询使用统一的计算规模:对于小型查询而言,资源可能过剩;对于大型查询而言,资源又可能不足。自适应计算则可以管理不同查询的计算规模分布,为每条查询分配适合其需求的计算规模。

真实世界中的工作负载几乎不可能完全一致。同一个虚拟仓库可能既要处理只扫描少量数据分区的仪表板刷新任务,又要执行涉及数十亿行数据连接操作的夜间数据转换任务。标准型虚拟仓库要求你提前选定一个统一的计算规模,无论选择哪种规模,两端的查询都会受到影响。

逐条查询进行资源分配决策,正是效率提升的来源。小型查询不再消耗自身无法充分利用的计算资源,由此节省的容量可以为计算密集型查询提供额外的资源余量。在相同的支出下,系统能够处理更多工作负载。

但更快的速度并非没有成本。每条查询都有自己的性能曲线:随着计算资源增加,查询速度逐步提升,但最终会遇到扩展瓶颈。在达到 2XL 之前,查询几乎能够实现理想的线性扩展,即计算规模每提升一级,执行速度就翻倍。但随后便遇到了扩展瓶颈:从 2XL 升级至 3XL,计算资源翻倍,执行速度只提升了 50%;从 3XL 升级至 4XL,计算资源再次翻倍,执行速度却仅提升了 25%。

因此,并不存在一个适用于所有查询的唯一正确规模。真正存在的是一条成本与性能之间的权衡曲线,而不同工作负载适合停止增加资源投入的位置各不相同。

Snowflake 能够在查询执行之前预测这条性能曲线。在编译阶段,系统已经掌握数据量、连接操作结构,以及任务中可以并行执行的工作比例,这些信息足以帮助系统估算查询在各个可用计算规模下的执行速度和成本。

系统能够理解不同计算规模对应的成本与性能权衡,但无法自行判断的是:你愿意接受怎样的权衡。假设计算资源增加一倍,可以让查询速度提升 1.5 倍。对于后台批处理任务而言,这可能并不划算;对于正在等待报表结果的用户来说,这可能完全合理。这是一项业务判断,而非单纯的查询技术指标。

两个属性:MQPL 与 QTM

正是因为系统能够衡量的内容,与只有用户才能决定的取舍之间存在差异,自适应计算才提供了两个配置属性。

MAX_QUERY_PERFORMANCE_LEVEL(MQPL,最大查询性能级别)用于规定单条查询可以沿成本与性能曲线提升到什么程度,也就是你愿意为更快的查询速度支付多少成本。QUERY_THROUGHPUT_MULTIPLIER(QTM,查询吞吐量倍数)用于规定虚拟仓库在新查询开始排队之前,允许多少并发工作负载进入执行,也就是你愿意为应对突发流量投入多少资源。

MQPL 是一个上限,而且是严格执行的上限。即便对于某条查询而言,继续提高一个计算级别能够以相对有限的额外成本换来明显的速度提升,MQPL 仍然会阻止查询超过设定的上限。它并不意味着所有查询都必须按照该级别执行,也不等同于虚拟仓库的固定规模。大多数查询会根据自身能够有效利用的资源量,在低于该上限的规模下执行。

MQPL 使用熟悉的 T 恤尺码体系表示,范围从 XS 到 4XL。一个合理的起点,是将 MQPL 设置为比原有标准型虚拟仓库规模高一级:原有规模代表日常查询已经适应的性能范围,增加一级则为偶尔出现的重型查询保留空间。

QTM 对应的是突发流量问题。工作负载很少以稳定不变的速率到达:上午 9 点,所有仪表板可能同时刷新;某条数据流水线可能并行触发 40 个转换任务。QTM 决定自适应计算应该同时处理多少突发工作量,以及应该让多少查询暂时留在队列中等待。

提高 QTM,更多查询能够同时执行,延迟降低,但峰值成本更高;降低 QTM,更多查询进入等待队列,高负载下执行速度变慢,但支出受到限制。与标准型虚拟仓库中的 MAX_CLUSTER_COUNT(最大集群数量)类似,QTM 提供的是应对负载峰值的额外容量空间,而非固定分配的资源。如果工作负载没有产生需要使用额外容量的突发流量,那么即使将 QTM 设置得更高,也不会影响账单。

底层机制:准入控制 token 预算

MQPL 和 QTM 共同定义了一个准入控制 token 预算(Admission-Control Token Budget)。每条查询在进入共享计算资源池执行之前,都必须经过准入控制,由这一预算决定哪些查询可以立即执行,哪些查询必须等待。

QTM 是 MQPL 的倍数,系统会根据所选性能级别,按相应倍数提供 token 预算。例如,如果 MQPL 设置为 Large,QTM 设置为 4,那么虚拟仓库就能够同时执行相当于 4 条 Large 级别查询的计算工作量。

在编译阶段,系统会根据每条查询所需的资源,为其分配一个抽象的 token 需求量。当可用容量足够时,查询便开始执行;查询运行期间,对应的 token 会被预留;查询完成后,这些 token 将被归还。如果可用容量不足,新到达的查询就需要等待。

共享计算还会改变查询的 token 成本。查询消耗的 token 数量,取决于实际分配给它的计算单元,而非每条查询统一收取固定数量。如果某条查询独占一个计算单元,就需要承担该计算单元的全部 token 成本;如多条查询共享一个计算单元,每条查询则只承担与其使用份额对应的 token 成本。

token 具有可互换性。同一份预算可以支持 4 条 Large 级别查询、8 条 Medium 级别查询、16 条 Small 级别查询,或者任何其他符合预算限制的查询规模组合。这正是为什么查询规模差异较大的工作负载,能够在同一个自适应虚拟仓库中高效运行。

当自适应计算无法对某条查询作出足够有把握的判断时,例如遇到不熟悉的查询类型、新的执行计划,或者缺乏足够的历史数据,系统会优先采取避免负面影响的策略,而非贸然猜测。此时,查询将按照此前本应获得的计算级别执行。另一项保护机制则为查询规模的向下调整设置了下限。

标准型虚拟仓库将计算资源分割成彼此隔离的孤岛,同时要求计算需求各异的工作负载使用统一的计算规模,这使得成本与性能之间的权衡变成了一项管理难题。自适应计算通过共享计算模型,为每条查询匹配其能够有效利用的计算资源,使单个虚拟仓库能够同时支持不同规模的查询,而成本核算和遥测数据仍然与对应工作负载保持关联。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
暗流已经出现?苏联当年的颠覆套路再现中国,接连怪事更值得警惕

暗流已经出现?苏联当年的颠覆套路再现中国,接连怪事更值得警惕

補懂事的孩紙
2026-10-16 11:58:16
数十架战机飞抵伊朗边境,800英里外掉头返航

数十架战机飞抵伊朗边境,800英里外掉头返航

像素与芯片
2026-10-22 01:42:40
粮油要变天?下半年开始,大米、面粉、食用油或迎新一轮行业洗牌

粮油要变天?下半年开始,大米、面粉、食用油或迎新一轮行业洗牌

云霄纪史观
2026-10-17 01:39:00
奏国歌环节在练高尔夫?特朗普指责詹姆斯不尊重美国:他应当道歉

奏国歌环节在练高尔夫?特朗普指责詹姆斯不尊重美国:他应当道歉

罗说NBA
2026-10-23 05:49:05
上海地铁:明天运营开始起,5号线、16号线地面、高架区段限速运行

上海地铁:明天运营开始起,5号线、16号线地面、高架区段限速运行

澎湃新闻
2026-10-23 18:52:28
4年8个月的俄乌战争:战前约50万俄精锐骨干基本被打光

4年8个月的俄乌战争:战前约50万俄精锐骨干基本被打光

高博新视野
2026-10-19 18:22:43
中方澄清:所谓“胡塞武装使用中国零件制造导弹”是抹黑造谣,如也方提供材料,中方愿认真调查

中方澄清:所谓“胡塞武装使用中国零件制造导弹”是抹黑造谣,如也方提供材料,中方愿认真调查

每日经济新闻
2026-10-22 16:27:41
重磅信号出现:历史天量

重磅信号出现:历史天量

上海证券报
2026-10-23 17:24:10
中国为加纳打了1000口井,没料到修的太好,成50万人的“救命药”

中国为加纳打了1000口井,没料到修的太好,成50万人的“救命药”

云霄纪史观
2026-10-21 13:31:36
波兰爆发大规模抗议活动,为何欧洲最近都乱了?

波兰爆发大规模抗议活动,为何欧洲最近都乱了?

鸿雁复北翔热评
2026-10-23 08:13:20
事情闹大了!菲律宾总统府声明,拒绝驱逐中方大使,原因很直白

事情闹大了!菲律宾总统府声明,拒绝驱逐中方大使,原因很直白

共工之锚
2026-10-23 00:29:03
昨天长征胜利90周年重要讲话中的五个“必须”,极具深意!

昨天长征胜利90周年重要讲话中的五个“必须”,极具深意!

识局Insight
2026-10-23 03:05:22
最煎熬的不是失业没了工作,而是社保年限从15年涨到了20年

最煎熬的不是失业没了工作,而是社保年限从15年涨到了20年

细说职场
2026-10-21 15:15:07
一个扫码弹窗广告搞瘫一整个停车场惹众怒!网友:这是纯坏……

一个扫码弹窗广告搞瘫一整个停车场惹众怒!网友:这是纯坏……

柴狗夫斯基
2026-10-23 08:18:31
41岁阿莫林迷之微笑!米兰0-3惨负英超第15:3轮1胜 排欧联第24名

41岁阿莫林迷之微笑!米兰0-3惨负英超第15:3轮1胜 排欧联第24名

风过乡
2026-10-23 05:57:44
这才是刚走完长征的毛主席,照片由美国人拍摄,满脸憔悴瘦脱了相

这才是刚走完长征的毛主席,照片由美国人拍摄,满脸憔悴瘦脱了相

大运河时空
2026-07-21 15:50:03
刘嘉玲那时候一看就是大陆妹,和本地香港人还是有很大区别的

刘嘉玲那时候一看就是大陆妹,和本地香港人还是有很大区别的

西楼知趣杂谈
2026-10-21 11:32:28
50岁小燕子近况曝光!皮松脸垮下垂明显,新加坡顶光拍面相都变了

50岁小燕子近况曝光!皮松脸垮下垂明显,新加坡顶光拍面相都变了

不似少年游
2026-10-21 11:35:46
风暴已经出现,中国不得不面对!40年来从未出现的四种情况已到来

风暴已经出现,中国不得不面对!40年来从未出现的四种情况已到来

影孖看世界
2026-10-17 21:54:52
高盛最新预测:上海深圳未来两年房价涨幅预期上调至20%,全国新房价格有望2029年企稳,二手房预计2030年止跌

高盛最新预测:上海深圳未来两年房价涨幅预期上调至20%,全国新房价格有望2029年企稳,二手房预计2030年止跌

投资者内参
2026-10-22 08:50:06
2026-10-23 20:55:00
码上闲叙
码上闲叙
有态度网友ytd
271文章数 102关注度
往期回顾 全部

科技要闻

抢运营商饭碗!马斯克又有大动作

头条要闻

以总理还原邀特朗普对伊动武细节:你不来 我们自己炸

头条要闻

以总理还原邀特朗普对伊动武细节:你不来 我们自己炸

体育要闻

没人看好的加图索,打出队史最佳开局

娱乐要闻

黎纪君晒与刘恺威合照 恋情后首次同框

财经要闻

叫"保障"不叫"保险":租车平台的文字游戏

汽车要闻

全球首款增程越野皮卡 长安猎手K70上市19.29万元起

态度原创

旅游
时尚
艺术
游戏
家居

旅游要闻

长征路上学党史丨古镇哈达铺迎红色旅游热

衬衫专场|| 入秋以来最爱穿这件,怎么搭都好美

艺术要闻

康熙给法国国王列出的“必读书目”,当今可能没人能读完 !

《巫师3重制》新BUG!新旧机制冲突了

家居要闻

2026建博会(广州) 公装联探展交流活动

无障碍浏览 进入关怀版