当我使用Flume Agent从Kafka源获取数据,并将数据写入 HDFS
时,但某些主题不能正常工作 . Kafka
的版本是 kafka_2.11-0.8.2.1
. 所以,我运行命令 bin/kafka-topics.sh --zookeeper zk:port/kafka --
describe,结果是
主题:__ consumer_offsets PartitionCount:50 ReplicationFactor:3配置:segment.bytes = 104857600,cleanup.policy = compact主题:__ consumer_offsets分区:0领导者:2个副本:2,3,1 Isr:2,3,1主题:consumer_offsets分区:1领导者:3个复制品:3,1,2 Isr:3,1,2 ......主题: consumer_offsets分区:48领导者:2个复制品:2,3,1 Isr:2,3,1主题:__ consumer_offsets分区: 49领导者:3个复制品:3,1,2 Isr:3,1,2主题:uniformAuthTopic PartitionCount:3 ReplicationFactor:3配置:主题:uniformAuthTopic分区:0领导者:3个副本:3,2,1 Isr:3,2 ,1主题:uniformAuthTopic分区:1个领导者:1个复制品:1,3,2 Isr:1,3,2主题:uniformAuthTopic分区:2个领导者:2个复制品:2,1,3 Isr:2,1,3
什么是主题的意思:__ consumer_offsets?好吧,我运行命令 bin/kafka-run-class.sh kafka.tools.ConsumerOffsetChecker --zookeeper zk:port/kafka --group flume --topic uniformAuthTopic
组主题Pid Offset logSize Lag所有者flume uniformAuthTopic 0 14737892 20069753 5331861 flume_bj-cuadc-xhm-4f03-p7-hs22-client_a-01-1457010084974-e9d501b9-0 flume uniformAuthTopic 1 14925444 20584430 5658986 flume_bj-cuadc-xhm-4f03-p7 -hs22-client_a-01-1457010084974-e9d501b9-0 flume uniformAuthTopic 2 21086401 21086988 587 flume_bj-yz302-f11-r720-8-1457492175405-54ad44d1-0
pid 0和pid 1的拥有者错了,我不知道为什么主人改变了 . 请原谅我破碎的英语!
1 回答
_consumer_offsets
是用于跟踪消费者偏移提交的特殊主题 . 这些曾经保存在Zookeeper中,但现在保留了这个主题 . 根据 the docs :