智汇 IT
城启新篇

灰度发布中的流量切分策略别把用户当骰子

凌晨两点,运营群炸了。新推荐算法灰度10%。按说这个比例不大,可客诉像潮水一样涌进来。用户说购物车价格一会儿新一会儿旧,推荐位刚点过,刷新又变回去。技术同学也很委屈:权重明明只切了10%。老板问,哪10%?没人答得上来。那一刻大家都懂了,灰度发布里的流量切分策略,不是配个百分比就完事。

这事儿我见过太多次。真的。每次都觉得,流量切分像分蛋糕,其实更像做手术。刀口偏一毫米,用户就能感觉到疼。

权重不是策略 它只是阀门开度

很多团队上手就用Nginx的weight,或者Istio VirtualService里的权重。简单,改一行配置,10%的请求去新版本。爽。

问题在于,这个10%是请求维度的。同一个用户,第一次请求可能命中新版本,第二次就回旧版本。如果新版本改了价格缓存、登录态、购物车结构,体验就裂开了。用户眼里没有灰度,只有“这APP是不是抽风了”。

所以,权重只能算阀门开度。真正的策略,得先回答:按谁切?切多久?切坏了怎么退?

如果业务要求同一用户始终落在同一侧,就用一致性哈希,把用户ID当key。不过话说回来,哈希也有边界。热点用户、大客户、内部测试账号,可能把某个分片打爆。加盐值能缓解,但不能根治。大促前最好单独拉白名单,别让VIP用户当小白鼠。

微服务网关灰度发布流量切分架构图
微服务网关灰度发布流量切分架构图

我见过最离谱的,是在每个业务服务里都写一遍if-else,各自随机切10%。结果A服务走新逻辑,B服务走旧逻辑,数据对不上,查了两天才发现灰度标没统一。别笑,这种事真不少。

从用户标识到请求上下文 切分维度得选对

切分维度这件事,C端和B端完全两码事。

C端常见的是UID、设备ID、手机号哈希、地域、App版本。UID最稳,但冷启动用户没有UID,只能退到设备ID或者IP+UA。IP这玩意儿,移动网络出口一变,用户就漂移了。所以能拿UID就别偷懒。

B端SaaS更简单也更麻烦。简单是因为按租户切,一个租户要么全量新,要么全量旧。麻烦在于,大租户会跟你签SLA,你不能拿人家做实验。所以租户白名单、租户分级、合同条款,一个都不能少。

还有一种切法,按请求上下文。比如只让某个城市、某个渠道、某个版本的用户进灰度。这种适合地域性功能或者端上强依赖。但要注意,请求头里的字段可能被网关吃掉,服务间调用也可能丢Header。灰度标一旦丢失,链路就会串味。

我的建议很朴素:在入口网关统一打标,把灰度标写进Header,后面所有服务只读不写。别让每个服务自己算,算着算着就乱了。对吧?

电商推荐系统灰度发布用户分桶策略流程图
电商推荐系统灰度发布用户分桶策略流程图

渐进式放量和回滚开关 别只做一次性切流

渐进式放量和回滚开关 别只做一次性切流
渐进式放量和回滚开关 别只做一次性切流

有人喜欢一把梭,直接切50%。胆子大。但灰度发布的核心不是胆子,是控制风险。

比较稳的节奏是1%、5%、20%、50%、100%。每一步观察一段时间。观察什么?别只看CPU和内存。要看错误率、P99延迟、业务转化、客诉量、订单失败率。尤其是业务指标。技术指标全绿,业务指标崩了,那也叫故障。

回滚开关必须提前准备好。不是出事之后再去改配置。要能做到一键切回旧版本,最好30秒内生效。配置中心有缓存,SDK有本地缓存,这些都会拖慢回滚。压测的时候顺便测一下回滚,别等半夜出事才发现回滚要五分钟。

还有一点,灰度环境和正式环境的数据要隔离,但链路要尽量一致。影子库、影子表、Mock服务都能用,但别让灰度流量写脏了正式数据。这个坑,踩一次就够疼半年。

那些踩过的坑和一张行动清单

那些踩过的坑和一张行动清单
那些踩过的坑和一张行动清单

坑一,随机数每次都变。请求级随机导致用户一会儿新一会儿旧。坑二,用户ID取模时忘了Long溢出,分桶结果全乱。坑三,配置中心推送延迟,明明改了1%,实际还在10%。坑四,日志里没打灰度标,出了问题根本不知道谁走了新逻辑。坑五,移动端版本号解析错误,把老版本用户放进新功能,闪退一片。

说几个能落地的动作。第一,入口统一打标,标里至少包含灰度组、版本、时间戳。第二,分桶算法固定,别频繁换盐值。第三,监控面板上加灰度维度的错误率和转化率,别混在一起看。第四,白名单和黑名单都要有,内部账号、大客户、监管账号单独处理。第五,回滚演练纳入发布流程,不演练不算上线。

灰度发布中的流量切分策略,说到底是在用户体验和发布速度之间找平衡。切得太粗,事故面大。切得太细,维护成本高。没有银弹。只有适合当前团队、当前业务、当前风险承受力的那一套。

别把用户当骰子。他们不是流量数字,是会骂人、会卸载、会去竞品下单的真人。想清楚这一点,百分比才有意义。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:灰度发布中的流量切分策略别把用户当骰子
文章链接:https://www.itcdj.com/news/1010.html