我正在使用KafkaConsumer来消费来自Kafka服务器(主题)的消息 .
- 适用于在启动消费者代码之前创建的主题...
但问题是,如果动态创建的主题(我的意思是说消费者代码开始之后),它将无法工作,但API表示它将支持动态主题创建..这是您的参考链接..
使用的Kafka版本:0.9.0.1
https://kafka.apache.org/090/javadoc/index.html?org/apache/kafka/clients/consumer/KafkaConsumer.html
这是JAVA代码......
Properties props = new Properties();
props.put("bootstrap.servers", "localhost:9092");
props.put("group.id", "test");
props.put("enable.auto.commit", "false");
props.put("auto.commit.interval.ms", "1000");
props.put("session.timeout.ms", "30000");
props.put("key.deserializer","org.apache.kafka.common.serialization.StringDeserializer");
props.put("value.deserializer","org.apache.kafka.common.serialization.StringDeserializer");
KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
Pattern r = Pattern.compile("siddu(\\d)*");
consumer.subscribe(r, new HandleRebalance());
try {
while(true) {
ConsumerRecords<String, String> records = consumer.poll(Long.MAX_VALUE);
for (TopicPartition partition : records.partitions()) {
List<ConsumerRecord<String, String>> partitionRecords = records.records(partition);
for (ConsumerRecord<String, String> record : partitionRecords) {
System.out.println(partition.partition() + ": " +record.offset() + ": " + record.value());
}
long lastOffset = partitionRecords.get(partitionRecords.size() - 1).offset();
consumer.commitSync(Collections.singletonMap(partition, new OffsetAndMetadata(lastOffset + 1)));
}
}
} finally {
consumer.close();
}
注意:我的主题名称与正则表达式匹配..如果我重新启动消费者,那么它将开始阅读推送到主题的消息...
任何帮助真的很感激......
2 回答
在apache kafka邮件档案中有一个答案 . 我正在复制它:
所以在你的道具中你可以:
这将使您的消费者每5秒钟了解一下新主题 .
你可以挂进Zookeeper . 看看the sample code . 实质上,您将在Zookeeper节点
/brokers/topics
上创建一个观察程序 . 当在这里添加新的孩子时,这是一个新的主题被添加,你的观察者将被触发 .请注意,这个和另一个答案之间的区别在于,这个是一个触发器,另一个是轮询 - 这个将尽可能接近实时,另一个将在您的轮询间隔最多的范围内 .