上周三凌晨两点。
我在朋友圈刷到以前在运维部带过的小周发的动态,配图是电脑屏幕上密密麻麻的告警弹窗,配文是”这破AIOps到底是谁说能减负的”,下面还跟了好几个同行业的人点赞,说自己家的系统也一样。
说实话,我一点都不意外。
去年年底他就跟我吐槽过,公司为了追数字化转型的风口,花了大几十万上了一套行业头部厂商的AIOps系统,当时厂商驻场的顾问拍着胸脯说,上线之后告警量至少降70%,运维团队的日常工作量能砍一半。
结果呢?
别被厂商演示里的AIOps骗了
我见过太多厂商的现场演示,打开系统界面,点一下异常检测按钮,几秒就跳出根因分析结果,从哪个服务的哪个接口出了问题,到需要执行什么操作,列得明明白白,连后续的优化建议都给你写好了,看着就像科幻电影里的智能助手。
可真到了企业自己的生产环境里,这些功能一半都跑不通。
小周家是做区域电商的,去年双11前一周,系统突然弹了个磁盘IO使用率超标的告警,AIOps直接给出的建议是”扩容磁盘容量”,运维小哥按照操作手册点了确认,花了两个小时把三块磁盘都扩容到了2T,结果IO值还是居高不下。最后几个人熬到早上六点,才发现是前一天上线的日志采集组件,没把debug级别的日志过滤掉,所有的请求日志全往本地磁盘写,跟磁盘容量半毛钱关系都没有。

为啥会出这种低级错误?
根本原因很简单,厂商训练模型用的都是公开的通用数据集,从来没见过你家的业务长什么样。小周他们当时上线急着赶项目,连过去三年的历史告警数据都没导给模型做微调,就直接把全量功能开了,相当于你招了个从来没接触过电商业务的新人,第一天上班就敢让他处理核心链路的告警,不出错才怪。
AIOps从来不是什么运维救世主
现在行业里吹AIOps的人太多了,好像上了这套系统,就能实现全链路无人值守,运维团队直接裁掉大半,所有人都等着系统自动把故障处理完。
纯扯淡。
我接触过的二十多家落地AIOps的团队里,没有一个是真的把系统当万能神的。大家的共识特别统一:这就是个24小时不睡觉、记性比人好的初级助手,能干的都是那些重复的、有明确规律的活。
比如我去年服务过的一家做城商行支付系统的客户,他们现在的AIOps系统就干三件事:第一是收敛重复告警,把过去三年里出现过的、有标准处理流程的告警自动归成一类,比如某个边缘节点的CPU临时飙高,持续不到两分钟就自己回落,这种根本不会再弹到运维的手机上;第二是给告警排优先级,以前凌晨的告警一半是测试环境的噪音,现在系统自动把影响核心交易链路的告警顶到最前面,不会让值班的小哥爬起来熬半宿,最后发现是个压测的服务挂了;第三是做容量预测,大促前一个月,系统根据过去半年的流量波动,算出每个服务需要预留多少资源,不用运维拍脑袋估。

我上次碰到个创业团队的技术负责人,一上来就跟我说,要让AIOps能100%预测所有线上故障,我当时直接给他泼了冷水。你家自己的资深运维团队,干了五六年都做不到100%预测从没出现过的故障,凭啥指望一个跑了几个月的模型做到?
它的能力边界本来就很清楚。那些重复发生的、有明确规律的场景,它处理起来比人快、比人准;那些从来没见过的、需要跨好几个团队排查的复杂故障,它顶多能帮你把相关的日志、指标、链路数据都整理到一个页面上,省得你挨个系统捞半小时数据,根本不可能直接给你蹦出来一个精准的根因结论。
真把AIOps用明白的团队都在做什么
别上来就追求全功能上线。
很多团队买了系统之后,恨不得把所有模块都开了,什么异常检测、根因分析、容量预测、自动化编排,一股脑全用上,最后大家用了两周觉得太复杂,直接把入口藏起来,钱全打了水漂。
真的用得好的团队,都是从最痛的那个点切入的。比如你团队现在每个月要处理上万条重复告警,每天有一半的时间都在处理没用的噪音,那你就先上告警收敛的模块,把这个问题解决了。等大家用了两三个月,真的觉得这个工具能帮自己省时间了,再慢慢接根因分析、容量预测的功能,顺理成章。
还有,一定要给模型喂你自己家的数据。
别拿着厂商给的通用模型就直接往生产环境上跑。把你家过去三年的告警记录、对应的处理流程、所有的故障复盘文档,全部导进去,让模型慢慢学,知道你家什么告警是真的要处理的,什么是可以直接忽略的。就像你带新人,总得花时间给他讲清楚业务逻辑,他才能慢慢上手干活。
最重要的一点,别让模型直接碰核心生产环境的操作。
哪怕模型给的建议再精准,涉及到自动扩容、自动重启核心服务、自动调整网络配置这类操作,一定要加人工校验的环节。不然哪天模型因为数据异常抽个风,把核心数据库的服务给停了,那点系统采购费,连损失的零头都补不上。
前几天跟小周通电话,他说他们现在已经把过去三年的告警数据全部喂给模型了,现在的日均告警量已经降到了之前的20%。上周做区域大促的时候,系统提前三天预测到了某个支付接口的流量会超阈值,提前扩容了资源,整个大促期间连个小的抖动都没出。
他说现在再也不骂这破系统是智商税了。
说白了。
工具而已。