聊聊 Kafka： Consumer 源码解析之 Rebalance 机制

作者：RiemannChow 2021-12-30 22:50:32

开发

架构

Kafka Rebalance 本质上是一种协议，规定了一个 Consumer Group 下的所有 Consumer 如何达成一致，来分配订阅 Topic 的每个分区。

 [[443148]]

一、前言

我们上一篇分析了 Consumer 如何加入 Consumer Group，其实上一篇是一个很宏观的东西，主要讲 ConsumerCoordinator 怎么与 GroupCoordinator 通信。等等，老周，ConsumerCoordinator 和 GroupCoordinator 是个啥玩意?这两个组件分别是 Consumer、Kafka Broker 的协调器，说白了就是我们设计模式中的门面模式，具体的内容可以看上一篇回顾下。今天这一篇主要讲上一篇 Consumer 如何加入 Consumer Group 中的 Rebalance 机制，其实上一篇讲了大概了，这一篇更深入的来说一说 Rebalance 机制的具体细节。

如果你是一个有一定经验的程序员，Rebalance 机制我觉得可以作为一道面试题来考察，而且还是有一定难度的。但是也不需要妄自菲薄，跟着老周的这篇文章下来，相信你一定可以拿下它的。

但有些读者确实觉得还是有一定难度，别着急，先看下下面 Kafka 的拓扑结构，这个结构很清晰了吧，如果你对 Kafka 的拓扑结构还不了解，那我建议你先别往下看了，先把 Kafka 的拓扑结构搞清楚，或者先看老周前面的几篇文章再来继续阅读，我觉得效果会更好。

这一篇主要从以下几点来聊一聊 Rebalance 机制：

• 什么是 Rebalance 机制?
• 触发 Rebalance 机制的时机
• Group 状态变更
• 旧版消费者客户端的问题
• Rebalance 机制的原理
• Broker 端重平衡场景

二、什么是 Rebalance 机制?

Rebalance 本质上是一种协议，规定了一个 Consumer Group 下的所有 Consumer 如何达成一致，来分配订阅 Topic 的每个分区。

当集群中有新成员加入，或者某些主题增加了分区之后，消费者是怎么进行重新分配消费的?这里就涉及到重平衡(Rebalance)的概念，下面我就给大家讲解一下什么是 Kafka 重平衡机制。

从图中可以找到消费组模型的几个概念：

• 同一个消费组，一个分区只能被一个消费者订阅消费，但一个消费者可订阅多个分区，也就是说每条消息只会被同一个消费组的某一个消费者消费，确保不会被重复消费;
• 一个分区可被不同消费组订阅，这里有种特殊情况，假如每个消费组只有一个消费者，这样分区就会广播到所有消费者上，实现广播模式消费。

要想实现以上消费组模型，那么就要实现当外部环境变化时，比如主题新增了分区，消费组有新成员加入等情况，实现动态调整以维持以上模型，那么这个工作就会交给 Kafka 重平衡(Rebalance)机制去处理。

从图中可看出，Kafka 重平衡是外部触发导致的，下面来看下触发 Kafka 重平衡的时机有哪些。

三、触发 Rebalance 机制的时机

• 有新的 Consumer 加入 Consumer Group
• 有 Consumer 宕机下线。Consumer 并不一定需要真正下线，例如遇到长时间的 GC、网络延迟导致消费者长时间未向 GroupCoordinator 发送 HeartbeatRequest 时，GroupCoordinator 会认为 Consumer 下线。
• 有 Consumer 主动退出 Consumer Group(发送 LeaveGroupRequest 请求)。比如客户端调用了 unsubscribe() 方法取消对某些主题的订阅。
• Consumer 消费超时，没有在指定时间内提交 offset 偏移量。
• Consumer Group 所对应的 GroupCoordinator 节点发生了变更。
• Consumer Group 所订阅的任一主题或者主题的分区数量发生变化。

四、Group 状态变更

4.1 消费端

在 Consumer 侧的门面 ConsumerCoordinator，它继承了 AbstractCoordinator 抽象类。在协调器 AbstractCoordinator 中的内部类 MemberState 中我们可以看到协调器的四种状态，分别是未注册、重分配后没收到响应、重分配后收到响应但还没有收到分配、稳定状态。

上述消费端的四种状态的转换如下图所示：

4.2 服务端

对于 Kafka 服务端的 GroupCoordinator 则有五种状态 Empty、PreparingRebalance、CompletingRebalance、Stable、Dead。他们的状态转换如下图所示：

• 一个消费者组最开始是 Empty
• 重平衡开启后，会置于 PreparingRebalance 等待成员加入。
• 之后变更到 CompletingRebalance 等待分配方案
• 最后流转到 Stable 完成 Rebalance
• 当有成员变动时，消费者组状态从 Stable 变为 PreparingRebalance。
  • 此时所有现存成员需要重新申请加入组
  • 当所有组成员都退出组后，消费者组状态为 Empty。
• 消费者组处于 Empty 状态，Kafka 会定期自动删除过期 offset。

五、旧版消费者客户端的问题

ConsumerCoordinator 与 GroupCoordinator 的概念是针对 Kafka 0.9.0 版本后的消费者客户端而言的，我们 暂且把 Kafka 0.9.0 版本之前的消费者客户端称为旧版消费者客户端。旧版消费者客户端是使用 Zookeeper 的监听器(Watcher)来实现这些功能的。

每个消费组 在 Zookeeper 中维护了一个 /consumers/ /ids 路径，在此路径下使用临时节点记录隶属于此消费组的消费者的唯一标识 consumerldString , consumerldString 由消费者启动时创建。消费者的唯一标识由 consumer.id+主机名+时间戳+UUID的部分信息 构成，其中 consumer.id 是旧版消费者客户端中的配置，相当于新版客户端中的 client.id。比如某个消费者的唯一标识为 consumerld_localhost-1510734527562-64b377f5，那么其中 consumerld 为指定的 consumer.id, localhost 为计算机的主机名，1510734527562代表时间戳，而 64b377f5 表示 UUID 的部分信息。

下图与 /consumers/ /ids 同级的还有两个节点：owners 和 offsets

• /consumers//owners 路径下记录了分区和消费者的对应关系
• /consumers//offsets 路径下记录了此消费组在分区中对应的消费位移

每个 broker、主题和分区在 Zookeeper 中也都对应一个路径：

• /brokers/ids/记录了 host、port 及分配在此 broker 上的主题分区列表;
• /brokers/topics/ 记录了每个分区的 leader 副本、ISR 集合等信息。
• /brokers/topics//partitions//state 记录了当前 leader 副本、leader epoch 等信息。

每个消费者在启动时都会在 /consumers/ /ids 和 /brokers/ids 路径上注册一个监听器。当 /consumers/ /ids 路径下的子节点发生变化时，表示消费组中的消 费者发生了变化;当 /brokers/ids 路径下的子节点发生变化时，表示 broker 出现了增减。这样通过 Zookeeper 所提供的 Watcher，每个消费者就可以监听消费组和 Kafka 集群的状态了。

这种方式下每个消费者对 Zookeeper 的相关路径分别进行监听，当触发再均衡操作时，一个消费组下的所有消费者会同时进行再均衡操作，而消费者之间并不知道彼此操作的结果，这样可能导致 Kafka 工作在一个不正确的状态。与此同时，这种严重依赖于 Zookeeper 集群的做法还有两个比较严重的问题。

• 羊群效应(Herd Effect)：所谓的羊群效应是指 Zookeeper 中一个被监听的节点变化，大量的 Watcher 通知被发送到客户端，导致在通知期间的其他操作延迟，也有可能发生类似死锁的情况。
• 脑裂问题(Split Brain)：消费者进行再均衡操作时每个消费者都与 Zookeeper 进行通信以判断消费者或 broker 变化的情况，由于 Zookeeper 本身的特性，可能导致在同一时刻各个消费者获取的状态不一致，这样会导致异常问题发生。

六、Rebalance 机制的原理

Kafka 0.9.0 版本后的消费者客户端对此进行了重新设计，将全部消费组分成多个子集，每个消费组的子集在服务端对应一个 GroupCoordinator 对其进行管理，GroupCoordinator 是 Kafka 服务端中用于管理消费组的组件。而消费者客户端中的 ConsumerCoordinator 组件负责与 GroupCoordinator 进行交互。

• Rebalance 完整流程需要 Consumer & Coordinator 共同完成
• Consumer 端 Rebalance 步骤
  • 加入组：对应 JoinGroup 请求
  • 等待 Leader Consumer 分配方案：对应 SyncGroup 请求
• 当组内成员加入组时，Consumer 向协调者发送 JoinGroup 请求。
• 每个 Consumer 会上报自己订阅的 topic
• Coordinator 收集到所有 JoinGroup 请求后，从这些成员中选择一个担任消费者组的 Leader
  • 通常第一个发送 JoinGroup 请求的自动成为 Leader
• Leader Consumer 的任务是收集所有成员的 topic，根据信息制定具体的 partition consumer 分配方案。
• 选出 Leader 后，协调者把所有 topic 信息封装到 JoinGroup Response 中，发送给 Leader。
• Leader Consumer 做出统一分配方案，进入到 SyncGroup 请求。
• Leader Consumer 向协调者发送 SyncGroup，将分配方案发给协调者。
• 其他成员也会发出 SyncGroup 请求
• 协调者以 SyncGroup Response 的方式将方案下发给所有成员

• 所有成员成功接收到分配方案，消费者组进入 Stable 状态，开始正常消费。

具体的源码分析，可以看我上一篇分析的 Consumer 如何加入 Consumer Group 文章。

七、Broker 端重平衡场景

7.1 新成员加入

消费者组处于 Stable 之后有新成员加入

7.2 组成员主动离开

• 主动离开：Consumer Instance 通过调用 close() 方法通知协调者退出
• 该场景涉及第三个请求：LeaveGroup 请求

7.3 组成员崩溃离开

• 协调者需要等待一段时间才能感知
• 这个时间段由 Consumer 端参数 sessionn.timeout.ms 控制
• Kafka 不会超过上述参数时间感知崩溃
• 处理流程相同

7.4 Rebalance 时组成员提交 offset

• Rebalance 开启时，协调者会给予成员一段缓冲时间，要求每个成员在这段时间内快速上报自己的 offset。
• 再开启正常的 JoinGroup/SyncGroup 请求

好了，Rebalance 机制就先说这么多了，下一篇会来聊一聊如何避免重平衡。

本文转载自微信公众号「老周聊架构」，可以通过以下二维码关注。转载本文请联系老周聊架构公众号。