智汇 IT
城启新篇

消息队列的甜头与半夜告警

凌晨两点,手机在床头柜上震。不是电话,是钉钉机器人。订单消息积压九万条。那一瞬间,我脑子里只有一句话:当初谁拍板上消息队列的。

但话说回来,这锅真不能全让 MQ 背。消息队列是个好东西。异步、解耦、削峰,三件套谁都能背。问题在于,很多人只记住了甜头,没算代价。

先别急着上消息队列

我见过一个内部后台,日订单量几千。就为了“以后可能扛不住”,硬塞了个 Kafka。结果呢?运维多了一套集群,本地调试还得起 Docker。开发同学改个字段,还得先同步 schema。运维成本高得离谱。说白了,消息队列不是免费的。它把同步调用的问题,换成了异步链路的问题。你以为解耦了,其实是把依赖藏进了主题里。

什么时候该用?写操作比读操作多,峰值和均值差得远,上下游故障不该相互拖死。比如注册送积分,创建订单发短信,这些可以异步。但你要是做个后台查询,非要绕一圈消息队列,那就是给自己找事。

消息队列异步解耦与同步调用对比架构图
消息队列异步解耦与同步调用对比架构图

还有一点。很多团队上来就选 Kafka,觉得吞吐大。可你如果没有流式场景,没有分区消费需求,RabbitMQ 或者 Redis Stream 可能更省事。选型这事,得看手里的牌。

丢消息这件事比你想的复杂

“消息队列会丢消息吗?” 这问题问出来,就说明你还没踩过坑。会。而且丢的方式五花八门。

生产者发了,Broker 没收到。Broker 收到了,没落盘。落盘了,消费者没拉到。消费者拉到了,业务处理失败了,却先把 offset 提交了。每一个环节,都可能把消息弄丢。你要做的,是端到端的确认和幂等。注意,是端到端,不是单点。

我见过有人只用自动提交 offset,消费逻辑里抛异常,消息就没了。也见过生产者用异步发送,不处理回调,Broker 挂了都不知道。麻烦在于,这些配置默认值往往不是给钱袋子业务用的。你得自己调,自己测,自己兜底。

Kafka生产者确认机制acks与消费者offset提交时序图
Kafka生产者确认机制acks与消费者offset提交时序图

再说重复消费。消息队列通常保证 at least once。你不想丢,就可能重复。所以消费端必须幂等。用唯一键去重,或者状态机判断。别指望 MQ 帮你做 exactly once。那玩意有,但代价大,限制多。多数时候,幂等才是老实人的选择。

顺序性是个奢侈品

只要上了分区,顺序性就得打折。Kafka 只保证分区内有序。你要是把同一订单的消息打到不同分区,消费端就可能乱序。怎么解决?按业务键 hash 到固定分区。比如订单号。可这样又带来新问题:热点分区。大客户订单全挤在一个分区,消费速度上不去。

还有并发消费。为了吞吐,你开了十个消费者。顺序性?没了。想有序,就得单分区单消费者。那吞吐又下来了。这就是取舍。没有既快又稳还便宜的方案。业务能接受最终一致,就别死磕强顺序。不能接受,就老老实实串行,或者用状态机补偿。

有人问,RabbitMQ 不是有单队列顺序吗?对。但单队列就是一个消费者,吞吐天花板很低。你可以用多个队列,但那就变成多个顺序流,不是全局顺序。全局顺序在分布式系统里,基本等于性能杀手。想清楚你要的是哪种顺序。

积压不是容量问题而是消费能力问题

积压不是容量问题而是消费能力问题
积压不是容量问题而是消费能力问题

回到凌晨两点那个告警。九万条积压,看着吓人。其实磁盘还有空间。真正的问题是消费速度跟不上生产速度。

先看消费者。是不是卡在某个下游接口?是不是数据库慢查询?是不是锁竞争?有时候不是 MQ 慢,是业务代码慢。你扩消费者,结果数据库先扛不住。所以扩容之前,先看链路。别一股脑加机器,最后把 DB 打挂。

再看生产端。有没有突发流量?秒杀、推送、定时任务撞在一起。削峰不是靠 MQ 自动完成的。你前面得有限流,后面得有降级。MQ 只是个缓冲池。池子再大,进水口一直猛灌,出水口堵着,早晚溢出。

监控也得跟上。积压量、消费延迟、消费成功率、重试次数。这些指标要能告警。别等用户投诉了才发现。我见过最离谱的,消费者挂了三天,没人知道。因为没告警。消息在队列里躺着,业务方以为发了。

选型没有标准答案

选型没有标准答案
选型没有标准答案

Kafka、RabbitMQ、RocketMQ、Pulsar,还有云上的 SQS、SNS。每个都有脾气。Kafka 吞吐高,生态好,适合流处理和日志。但运维复杂,分区再平衡能把你搞疯。RabbitMQ 路由灵活,消息可靠,适合业务解耦。但吞吐一般,堆积能力有限。RocketMQ 事务消息和顺序消息做得不错,国内资料多。Pulsar 存算分离,听起来很美,运维门槛也不低。

别问哪个最好。问你的场景。日消息量多少?能接受多长延迟?消息重要还是吞吐重要?团队有没有运维能力?这些问题不回答,选什么都是赌。

还有云服务。小团队直接用云 MQ,省心。但成本要算清楚。量大了,云账单能吓死人。自建呢?省了钱,费了人。这事没那么玄。就是权衡。

消息队列不是银弹。它是一把刀。切菜还是砍手,看你怎么握。用之前,先想清楚丢消息怎么办,重复怎么办,顺序怎么办,积压怎么办。想不清楚,就先别上。

凌晨两点那个告警,后来解决了。不是 MQ 的问题,是下游接口超时。扩了两个消费者,加了缓存,压回去了。但那天之后,我们把所有 topic 的积压告警阈值都重新调了一遍。有些学费,交一次就够了。

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:消息队列的甜头与半夜告警
文章链接:https://www.itcdj.com/news/865.html