运维团队里有个常见信念:告警越多,系统就越安全。毕竟,每一处异常都能第一时间发现。但一次线上故障,让这个“常识”彻底翻车。
故障复盘会上,团队发现根源问题被数百条告警完全淹没。关键服务的异常信号,夹杂在无数无关痛痒的指标波动里。错误排查花了几小时,而真正致命的那个警报,早在一开始就发出了。
![]()
为什么要命的信号会被掩盖?监控系统犯了三个错:第一,缺少降噪。所有告警一视同仁地发送,没有按严重程度聚合过滤。第二,没有因果链。告警都是孤立事件,看不出哪些是诱因、哪些是附带伤害。第三,脱离业务语义。磁盘使用率升高是告警,但它对订单成功率的影响才是该被拉响的警报。
正方观点是,宁可多报一千,不可漏报一个。反方坚持,泛滥的信息比没有信息更可怕——它制造了“一切尽在掌控”的错觉。复盘结果站在反方一边:这次故障正是被“狼来了”效应拖垮了响应速度。
改进不能停留在加几台监控大屏。团队提出的方向是,让告警变得“可行动”——每条告警都应该指向一个明确的响应动作,否则就不值得发出。降噪、串联因果、注入业务含义,落到实践就是:同一根因的告警只发一条,附带影响路径说明,并用“下单成功率下跌至80%”代替“服务器CPU 85%”。
当信息不再制造噪声,运维才能真正听见系统求救的声音。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.