告警太多、太碎、没上下文,是值班同学共同的痛。本文介绍炬鲸 OBSERVE 告警能力的四个设计:多维聚合去重、静默与抑制、告警即携带 Trace/日志证据、升级与排班联动,让每一条告警都值得被处理。
告警疲劳不是「告警太多」这么简单,而是告警与可行动信息脱节:一条「CPU 使用率超过 80%」既不知道影响哪个业务、也不告诉你怎么处理,值班同学收到后第一反应是「又是这个」,时间久了自然麻木。
炬鲸 OBSERVE 把告警设计的目标定成一句话:每条告警要么能自动恢复,要么能直接跳到根因。下面拆解四个能力。
同一个故障会触发几十条告警。我们的做法是按故障维度聚合,而不是按告警规则聚合:
集群 + 服务、可用区 + 应用 等组合。效果:一次机房网络抖动,从 200 条告警压成 3 条聚合告警,每条说清影响面。
抑制规则是降低噪声最有效的一招,但配置成本也最高——建议从「主机级 → 容器级 → 服务级」的层次开始配,一层层加。
这是告别疲劳的关键一跳:告警本身带上证据链接。
每条告警详情里自动附带:
service + level=ERROR + 时间窗 预生成的日志搜索链接。值班同学点开告警,第一屏看到的就是「发生了什么变更 + 哪里有慢链路 + 哪里有报错」,而不是一张孤零零的曲线图。
把「可行动」作为告警的第一验收标准,告警疲劳会随着证据链的补齐而自然消退。