kafka怎么獲取最后偏移量

小億
161
2023-11-07 05:13:00

要獲取Kafka主題中每個(gè)分區(qū)的最后偏移量，可以使用Kafka的Java客戶端API來(lái)實(shí)現(xiàn)。

首先，創(chuàng)建一個(gè)KafkaConsumer實(shí)例，并設(shè)置所需的配置屬性，例如bootstrap.servers、group.id等。

然后，使用consumer的assign()方法將要獲取偏移量的主題分區(qū)分配給consumer。

接下來(lái)，調(diào)用consumer的seekToEnd()方法將消費(fèi)者的位置設(shè)置為分區(qū)的最后偏移量。

最后，通過(guò)consumer的position()方法獲取每個(gè)分區(qū)的最后偏移量。

下面是一個(gè)示例代碼，展示了如何獲取Kafka主題每個(gè)分區(qū)的最后偏移量：

import org.apache.kafka.clients.consumer.ConsumerConfig;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.common.PartitionInfo;
import org.apache.kafka.common.TopicPartition;

import java.util.*;

public class KafkaOffsetExample {

    public static void main(String[] args) {
        Properties props = new Properties();
        props.put(ConsumerConfig.BOOTSTRAP_SERVERS_CONFIG, "localhost:9092");
        props.put(ConsumerConfig.GROUP_ID_CONFIG, "test-group");
        props.put(ConsumerConfig.KEY_DESERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringDeserializer");
        props.put(ConsumerConfig.VALUE_DESERIALIZER_CLASS_CONFIG, "org.apache.kafka.common.serialization.StringDeserializer");

        KafkaConsumer<String, String> consumer = new KafkaConsumer<>(props);
        List<PartitionInfo> partitions = consumer.partitionsFor("test-topic");

        List<TopicPartition> topicPartitions = new ArrayList<>();
        for (PartitionInfo partition : partitions) {
            topicPartitions.add(new TopicPartition(partition.topic(), partition.partition()));
        }

        consumer.assign(topicPartitions);
        consumer.seekToEnd(topicPartitions);

        Map<TopicPartition, Long> endOffsets = new HashMap<>();
        for (TopicPartition topicPartition : topicPartitions) {
            endOffsets.put(topicPartition, consumer.position(topicPartition));
        }

        for (Map.Entry<TopicPartition, Long> entry : endOffsets.entrySet()) {
            System.out.println("Partition: " + entry.getKey() + ", Last Offset: " + entry.getValue());
        }

        consumer.close();
    }
}

在上述示例中，將使用localhost:9092作為Kafka集群的引導(dǎo)服務(wù)器地址，test-group作為消費(fèi)者組ID，test-topic作為要獲取偏移量的主題。

請(qǐng)確保在代碼中配置正確的Kafka集群地址、主題和消費(fèi)者組ID。

0 踩