Skip to content

10. Kafka Consumer 消费者详解 ​

本章深入分析 Kafka Consumer 客户端的实现机制,包括消费组管理、分区分配、Offset 管理、Fetch 机制等核心功能。

章节目录 ​

文档内容难度
01-consumer-overview.mdConsumer 架构概述⭐
02-fetcher-mechanism.mdFetcher 拉取机制⭐⭐⭐
03-consumer-coordinator.mdConsumerCoordinator 消费组协调器⭐⭐⭐
04-partition-assignor.md分区分配策略⭐⭐
05-rebalance-process.mdRebalance 重平衡详解⭐⭐⭐
06-offset-management.mdOffset 管理策略⭐⭐
07-new-consumer.md新版 AsyncKafkaConsumer (3.0+)⭐⭐⭐
08-consumer-config.md配置详解⭐
09-consumer-practical-guide.md实战指南⭐⭐

核心概念速查 ​

Consumer 架构 ​

┌─────────────────────────────────────────────┐
│            KafkaConsumer                    │
├─────────────────────────────────────────────┤
│  1. subscribe() → 消费组管理                │
│  2. poll() → Fetcher 拉取消息               │
│  3. commitSync/Async() → Offset 提交        │
└─────────────────────────────────────────────┘

关键配置 ​

配置默认值说明
bootstrap.servers-Broker 地址列表
group.id-消费组 ID
auto.offset.resetlatest起始消费位置
enable.auto.committrue自动提交 Offset
max.poll.records500单次拉取最大记录数
fetch.min.bytes1最小拉取字节数
fetch.max.wait.ms500最大等待时间
session.timeout.ms45000会话超时时间
heartbeat.interval.ms3000心跳间隔

学习路径 ​

快速了解 ​

  1. 架构概述
  2. 配置详解

深入理解 ​

  1. Fetcher 拉取机制
  2. ConsumerCoordinator 消费组协调器
  3. 分区分配策略

高级特性 ​

  1. Rebalance 重平衡详解
  2. Offset 管理策略
  3. 新版 AsyncKafkaConsumer (3.0+)

相关章节 ​


上一章: 09. Producer 生产者下一章: 11. 网络协议