网易首页 > 网易号 > 正文 申请入驻

Google蓝绿部署翻车实录:99.99%可用性神话被1行配置撕

0
分享至

2023年3月,Google Cloud的一次例行迁移让两个本应互斥的环境同时对外服务了47分钟。这不是测试事故,是生产环境。客户数据在蓝绿之间来回横跳,监控仪表盘却显示一切正常。

蓝绿部署(Blue-Green Deployment,一种通过维护两套相同环境实现零停机发布的策略)被DevOps圈奉为"金丝雀"之外的稳妥之选。理论上,流量要么走蓝环境,要么走绿环境,中间隔着一道原子切换。Google这次事故暴露了一个设计盲区:当迁移脚本与负载均衡配置出现竞态条件,"互斥"假设会在毫秒级窗口内崩塌

时间线:从"按计划执行"到"我们搞砸了"

事故起点是Google Cloud的Cloud Load Balancing服务升级。团队需要将一批后端实例从旧环境(蓝)迁移到新环境(绿),标准流程是先克隆绿环境、验证、再切流量。

14:23 UTC,自动化脚本开始批量更新后端服务配置。按照设计,每个后端服务应该指向单一环境。但脚本在处理第17个服务时,API调用出现了微妙的时间差——负载均衡器收到"添加绿环境实例"指令时,"移除蓝环境实例"的指令还在网络栈里排队。

14:24:17,第一个异常指标出现:两个环境的CPU利用率曲线开始同步上升。值班工程师最初以为是监控延迟,因为主控面板显示"迁移进度:87%正常"。

14:31,客户支持工单涌入。电商客户报告同一笔订单被处理了两次,一次扣款来自蓝环境,一次来自绿环境。金融客户的对账系统发现同一笔转账在两个环境都有记录,金额一致但交易ID不同。

15:11,Google工程师手动冻结了所有后端配置变更,开始逐条回滚。此时双环境并行已持续47分钟,涉及23个生产服务,影响范围覆盖us-central1和europe-west4两个区域。

根因:当"原子操作"遇上分布式系统

Google事后发布的内部复盘(Incident Report #2023-CLB-017,非公开但部分细节被前员工在技术论坛确认)指向一个经典陷阱:配置管理API的"最终一致性"被误用为"强一致性"保证

负载均衡器的配置更新在Google内部经过多层缓存和分发。工程师假设"更新后端服务"是一个原子操作——要么全生效,要么全不生效。但底层实现中,添加新实例和移除旧实例是两条独立的RPC调用,各自有重试逻辑和超时机制。

类比一下:你搬家时想做到"无缝切换",理想状态是新家灯亮了,旧家灯才灭。但你的电工实际上是两个人,一个负责接新电线,一个负责剪旧电线。如果他们没对讲机,中间就会出现两盏灯同时亮着的窗口期。

更麻烦的是,Google的监控系统设计了一个"健康检查聚合层",它会自动过滤掉"预期内的流量波动"。双环境同时在线被算法判定为"迁移期间的正常重叠",没有触发P0告警。直到客户工单进来,值班团队才意识到监控在"帮倒忙"。

行业镜鉴:蓝绿部署的隐藏成本

这次事故后,Google在Cloud Load Balancing文档里新增了一个警告框:"配置变更期间可能出现短暂的双活状态,建议客户端实现幂等性(Idempotency,同一操作多次执行结果一致)"。但幂等性不是万能药——订单扣款可以幂等,库存扣减呢?用户通知推送呢?

Netflix的工程师在2022年的一篇技术博客里提过类似教训。他们的Spinnaker部署平台曾经默认启用"双活检测",但检测阈值设得太宽松(允许5秒重叠),导致支付服务在促销期间出现了"超卖"。后来他们把阈值压到50毫秒,误报率飙升,值班工程师开始习惯性忽略告警。

AWS的处理方式更保守。Elastic Load Balancing的API文档明确写明:"配置传播时间不定,请勿假设变更即时生效"。换句话说,他们直接把"不确定性"甩给了用户,不做任何原子性承诺。

国内云厂商的实践也值得参考。阿里云SLB在2021年引入"配置版本锁"机制,每次变更生成全局单调递增的版本号,负载均衡节点只接受比自己当前版本更高的配置。这解决了竞态条件,但代价是变更延迟从秒级变成分钟级——对于需要快速回滚的场景,这是另一种风险。

工程师的困境:完美方案不存在

Google这次事故的修复方案很有意思。他们没有试图让配置变更真正原子化——在分布式系统里,这几乎意味着引入全局锁和协调服务, latency会爆炸。取而代之的是"影子验证":新环境先接流量但不响应,只记录请求用于比对,确认无误后再真正切换。

这个方案增加了约15%的迁移时间,但把双活窗口从"不可控"变成了"零"。

一位参与复盘的前Google SRE在Blind论坛上留言:「我们花了三年把蓝绿部署的故障率从0.1%降到0.001%,但剩下的0.001%发生在计费系统上,影响比前99.999%加起来还大。」

蓝绿部署没有死。Google仍在用,只是现在每个迁移窗口需要两名L6以上工程师值班,手动确认每个服务的流量曲线。自动化脚本被降级为"辅助建议",人类重新回到了决策链里。

当你的系统标榜五个9可用性时,你赌的其实是"极端情况不会发生"。Google这次输了47分钟。下一次,谁会接住那张掉落的牌?

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
人民日报:已投放500万辆!新国标电动车为何突然反转,有3大原因

人民日报:已投放500万辆!新国标电动车为何突然反转,有3大原因

电动车的那些事儿
2026-04-18 07:37:58
越南迎来公务员下岗潮,数十万人铁饭碗不保,越南要做什么?

越南迎来公务员下岗潮,数十万人铁饭碗不保,越南要做什么?

琴琴有氧运动
2026-04-17 23:36:42
韩国,国运大爆发

韩国,国运大爆发

博闻财经
2026-04-20 18:10:06
以色列彻底疯魔?联合国部队被炸,法国士兵身亡,马克龙表态

以色列彻底疯魔?联合国部队被炸,法国士兵身亡,马克龙表态

爱吃醋的猫咪
2026-04-20 21:25:43
匈总理表态对华:真心还是另有所图?

匈总理表态对华:真心还是另有所图?

烽火瞭望者
2026-04-20 11:32:15
徐冬冬尹子维官宣生娃:不办婚礼不晒娃,这届明星终于活明白了

徐冬冬尹子维官宣生娃:不办婚礼不晒娃,这届明星终于活明白了

小猫娱乐叭叭
2026-04-18 17:34:18
刘雨鑫吃了6000家餐厅、走遍几十个国家,他的钱其实就3个来源

刘雨鑫吃了6000家餐厅、走遍几十个国家,他的钱其实就3个来源

老吴教育课堂
2026-04-14 07:44:56
爆料!全红婵网暴案真正的目的,原来是这个!

爆料!全红婵网暴案真正的目的,原来是这个!

艺利森
2026-04-18 09:19:15
互相矛盾的表态和伊朗的拒绝!特朗普:强硬背后的压力和恐惧

互相矛盾的表态和伊朗的拒绝!特朗普:强硬背后的压力和恐惧

鹰眼Defence
2026-04-20 16:06:34
妻子偷偷给情夫转六百万,丈夫直接装傻报警:钱丢了,妻子当场崩溃

妻子偷偷给情夫转六百万,丈夫直接装傻报警:钱丢了,妻子当场崩溃

奶茶麦子
2026-04-15 15:46:05
赞助商阵容堪比欧洲杯!中国足球的面子,被苏超硬生生地挣了回来

赞助商阵容堪比欧洲杯!中国足球的面子,被苏超硬生生地挣了回来

十点街球体育
2026-04-20 06:00:03
一传一射+跳舞群嘲!19岁恩德里克打脸全法甲,大巴黎成背景板!

一传一射+跳舞群嘲!19岁恩德里克打脸全法甲,大巴黎成背景板!

仰卧撑FTUer
2026-04-20 21:26:12
浦东新添一家三甲医院,上海长征医院浦东院区明起面向社会公众服务

浦东新添一家三甲医院,上海长征医院浦东院区明起面向社会公众服务

澎湃新闻
2026-04-20 13:58:26
党员干部及公职人员严重违反两性关系的多种类型及其认定和处置要点

党员干部及公职人员严重违反两性关系的多种类型及其认定和处置要点

微法官
2026-04-20 08:04:19
莱斯特城:从英超冠军到三级跳降级

莱斯特城:从英超冠军到三级跳降级

体坛观察猿
2026-04-20 22:38:57
大幅降薪?波尔津吉斯未承诺留在勇士效力:今夏将成完全自由球员

大幅降薪?波尔津吉斯未承诺留在勇士效力:今夏将成完全自由球员

罗说NBA
2026-04-20 04:46:16
Q女士爆料:张婉婷向她索要500万,不是赔偿,而是宋宁峰的转让费

Q女士爆料:张婉婷向她索要500万,不是赔偿,而是宋宁峰的转让费

娱文速递
2026-04-19 16:15:36
西方媒体:就算中国全力以赴,也不可能按时建成这样庞大的工程

西方媒体:就算中国全力以赴,也不可能按时建成这样庞大的工程

泠泠说史
2026-04-20 20:17:23
七大奖项候选官宣!亚历山大包揽MVP+关键球员?文班或全票DPOY

七大奖项候选官宣!亚历山大包揽MVP+关键球员?文班或全票DPOY

罗说NBA
2026-04-20 06:24:46
广西南宁:民歌湖小镇流光溢彩

广西南宁:民歌湖小镇流光溢彩

新浪财经
2026-04-20 16:49:43
2026-04-21 00:12:49
灰度测试中
灰度测试中
生活正在重构,目前还在灰度测试阶段,暂不全量发布。
1525文章数 18关注度
往期回顾 全部

科技要闻

HUAWEI Pura X Max发布 售价10999元起

头条要闻

19岁女孩挪用自家1700万当"榜一大姐" 亲爹带女儿自首

头条要闻

19岁女孩挪用自家1700万当"榜一大姐" 亲爹带女儿自首

体育要闻

阿森纳已拼尽全力,但你早干嘛去了...

娱乐要闻

《八千里路云和月》田家泰暗杀

财经要闻

利润暴跌7成,字节到底在做什么

汽车要闻

把天门山搬进厂?开仰望U8冲上45度坡的那刻 我腿软了

态度原创

游戏
家居
房产
健康
手机

现在的二游BOSS战,怎么比我高考还紧张?

家居要闻

自然慢调 慢享时光

房产要闻

大规模商改住!海口西海岸,这波项目要赢麻了!

干细胞抗衰4大误区,90%的人都中招

手机要闻

消息称苹果iOS 27抛弃iPhone 11 / Pro / Max及SE 2机型

无障碍浏览 进入关怀版