
Kubernetes多集群管理实践踩坑落地实录
去年618前两周,运维群直接炸了。 三个集群跨了两个可用区,一个存核心订单数据,一个跑大促的营销活动页面,还有个本来该独立的测试集群,不知道什么时候被人混进了半组生产节点。那天压测团队跑全链路压测,流量直接打到了订单集群的核心服务上,半小时...

去年618前两周,运维群直接炸了。 三个集群跨了两个可用区,一个存核心订单数据,一个跑大促的营销活动页面,还有个本来该独立的测试集群,不知道什么时候被人混进了半组生产节点。那天压测团队跑全链路压测,流量直接打到了订单集群的核心服务上,半小时...

上周跟一个做电商的朋友吃饭,他说大促刚过,最头疼的不是流量不够,是零点刚开抢那三分钟,有近两成用户点了下单按钮,转了五秒圈,直接退了。查了日志才发现,七成报错全是Serverless函数的冷启动超时。 很多人对冷启动的认知还停留在“加载代码...

上周三凌晨两点被电话拽起来的时候,我正梦到在南京新街口排队买盐水鸭。是苏州那个做智慧园区的老周,说他们部署在十几个园区的边缘节点集体抽风,摄像头的人流统计数据全卡成了静态图,甲方的运营总监已经在业主群里骂了二十分钟。 我套上拖鞋坐在电脑前登...

上周跟个在长三角做流批一体的工程师吃饭,他说上周刚被运维骂完——给Flink任务堆了3倍内存,结果OOM的问题没解决,还把同集群的离线任务挤得跑不动。 真的。 太多人踩这个坑了。 先搞清楚你调的到底是什么 很多人对实时计算任务的资源调优的第...

上周跟南京做精品生鲜的老周喝夜啤,他灌了半杯冰啤酒就开始吐槽。 去年公司跟风上了商业湖仓一体平台,花了小六十万授权费,现在数据团队每天还是要花三个小时跑批,大促的时候用户画像报表慢到十分钟都出不来,老板还在季度会上吹“我们已经完成了数据架构...

上周跟某股份制银行的数仓主管约咖啡,他一坐下就吐槽,去年申请了大几十万预算买的血缘追踪工具,现在团队日常只用它做上线前的字段映射检查,等于买了个能跑200码的跑车,天天用来楼下取快递。 最先出问题的从来不是血缘图好不好看 这种落差我见得太多...

上周跟河西某城商行的几个技术负责人在老门东吃鸭血粉丝,冰啤酒刚倒满,张哥就把手机往桌上一拍——他们上个月刚过了等保2.0三级测评,对外宣传已经全面落地零信任,结果转头就因为一个驻场开发的VPN账号被盗,拖走了测试环境里3万条脱敏后的客户数据...

上周去苏州见个做电商中台的技术负责人,他抽着烟说上个月618差点把整个网关打挂。 没什么玄乎的故障。就是大促前配限流的时候,拍脑袋给每个实例设了1000QPS,12个实例凑出来12000的全局限流阈值,压根没算后面库存数据库的最大承载才80...

上周跟个做电商的老朋友在咖啡馆碰了面,他刚从大促的值班状态里缓过来,眼下的黑青还没消。 他说大促零点的时候,有个用户付完款,刷新订单页,缓存里还挂着”待支付”的状态。用户反复点了三次支付,扣了三次钱。客服后台的消息直...

上周凌晨两点被电话炸醒。 是前公司运维的小周,声音都发颤。说大促预演的时候,运营拉30天的订单汇总报表,数据库直接卡到连后台登录都转圈。 我套上外套连了VPN上去,第一反应不是找SQL哪里错了,是先跑show processlist把所有正...