消费者加了机器反而更慢:RabbitMQ prefetch 与消息倾斜

消费者从 3 个扩到 9 个,积压没降反升。本文说明 prefetch 作用在 channel 而非 consumer、不限流为何导致分配倾斜与内存暴涨,并给出按处理耗时估算 prefetch 的方法和验证命令。

消费者从 3 个扩到 9 个,队列积压反而没降——这是 prefetch 设成 0(不限流)的典型症状:先连上的消费者把队列里的消息一次性搬进自己的未确认缓冲,其余消费者空转。

prefetch 的粒度是 channel,不是 consumer

basic.qos 设的 prefetch_count 作用在 channel 上,含义是「这个 channel 上最多同时存在多少条未 ack 的消息」。它不是一个消费者的配额,而是整条通道的配额。

这一点很多人在第一次配的时候就踩了:Spring AMQP 里 concurrentConsumers 配 5,若几个消费者共用同一 channel,额度被平摊;若各自独立 channel,额度才真正生效。配完发现「设了 10 但每个消费者只拿到 2」,先去看 channel 是不是共用的。

不限流的两个后果

一是分配倾斜。broker 推送消息时按消费者剩余额度分配,额度无限的消费者永远「有空位」,消息持续往它那里灌,其他消费者一直空闲。加机器不解决问题,因为新连上的消费者同样被前一个抢不到肉。

二是内存与确认风暴。未确认消息驻留在消费者进程里,处理慢、消息体大的消费者会攒下大量未 ack 记录,进程内存曲线上扬、GC 变频繁;一旦这个消费者崩溃或重启,这些消息全部重回队列,队列长度瞬间翻倍,看起来像「消息暴增」。

定值与验证

估算方式:prefetch 约等于目标单消费者吞吐(条/秒)乘以单条处理耗时(秒)。单条处理 50ms、希望每消费者每秒处理 40 条,prefetch 取 2 到 4 就够——因为处理期间 broker 会持续补位,不需要一次性搬空。

spring:
  rabbitmq:
    listener:
      simple:
        prefetch: 10
        concurrency: 4
        max-concurrency: 16
        acknowledge-mode: manual

上线后用管理端命令观察堆积与未确认:

rabbitmqctl list_queues name messages messages_unacknowledged consumers

判读方式:messages_unacknowledged 应大致等于 prefetch 乘以消费者数量,明显超出说明有消费者卡住没 ack(业务阻塞、下游超时、忘记 ack),而不是量太大。这时加消费者是无效操作,得先找出那个卡住的处理逻辑。

适用边界与常见坑

  • prefetch 太小会把吞吐卡在网络往返上。单条处理只有几毫秒时,prefetch 设 5 意味着每 5 条就要等一次 RTT,吞吐上不去。这类场景应该放大 prefetch,或改成批量消费。
  • prefetch 是每 channel 的,消费者数量要和 channel 数量一起看。concurrency 为 4 且各自独立 channel 时,总在途消息是 4 倍 prefetch,估内存要按总在途算,而不是按单条配额算。
  • autoAck 为 true 时 prefetch 完全不生效,消息一发出就被认为已确认,qos 形同虚设。要限流就必须手动 ack。
  • 消息体大(几 MB)时 prefetch 要更小,否则单进程内存直接被消息体占满,比积压在 broker 上更危险——broker 至少有磁盘落盘,消费者只有堆。
  • prefetch 只能缓解倾斜,队列本身仍是单点串行分发。真要并行,得拆多个队列或按 routing key 分区,指望一个队列加机器是行不通的。
查看「中间件」全部文章 →

同分类文章

查看 0 评论 0

评论

正在加载评论…

留言提交后自动审核:正常内容立即显示,含敏感信息的会转人工复核。

消费者加了机器反而更慢:RabbitMQ prefetch 与消息倾斜 - 起航社区