怎么進(jìn)行Pulsar Kafka Client的簡單分析

發(fā)布時間：2021-12-15 09:19:02 來源：億速云閱讀：136 作者：柒染欄目：大數(shù)據(jù)

本篇文章給大家分享的是有關(guān)怎么進(jìn)行Pulsar Kafka Client的簡單分析，小編覺得挺實用的，因此分享給大家學(xué)習(xí)，希望大家閱讀完這篇文章后可以有所收獲，話不多說，跟著小編一起來看看吧。

為了方便 Kafka 用戶使用 Pulsar，Pulsar 對 Kafka Client 做了一些封裝，讓 Kafka 用戶更方便的使用 Pulsar。

下面主要介紹 Kafka Client 如何將消息發(fā)送到 Pulsar, 并從 Pulsar 消費(fèi)消息，以及如何使用 Pulsar Schema。

?? 引入依賴

<dependency>  <groupId>org.apache.pulsar</groupId>  <artifactId>pulsar-client-kafka</artifactId>  <version>{project.version}</version></dependency>

依賴引入了 Kafka 的 0.10.2.1 版本的客戶端，還有 Pulsar 對 Kafka Client 封裝后的客戶端。

?? 使用 Kafka Schema

>>> 添加生產(chǎn)者代碼

String topic = "persistent://public/default/test";
Properties props = new Properties();props.put("bootstrap.servers", "pulsar://localhost:6650");
props.put("key.serializer", IntegerSerializer.class.getName());props.put("value.serializer", StringSerializer.class.getName());
Producer<Integer, String> producer = new KafkaProducer<>(props);
for (int i = 0; i < 10; i++) {    producer.send(new ProducerRecord<Integer, String>(topic, i, Integer.toString(i)));}
producer.close();

在上述配置中 topic 是指 Pulsar 中的 Topic，接著使用 Kafka 的配置方式來初始化各種配置，包括 Server 地址、key 的序列化與 value 的序列化類，然后構(gòu)造一個 ProducerRecord 的類將其發(fā)送出去。

>>> 添加消費(fèi)者代碼

String topic = "persistent://public/default/test";
Properties props = new Properties();props.put("bootstrap.servers", "pulsar://localhost:6650");props.put("group.id", "my-subscription-name");props.put("enable.auto.commit", "false");props.put("key.deserializer", IntegerDeserializer.class.getName());props.put("value.deserializer", StringDeserializer.class.getName());
@SuppressWarnings("resource")Consumer<Integer, String> consumer = new KafkaConsumer<>(props);consumer.subscribe(Arrays.asList(topic));
while (true) {    ConsumerRecords<Integer, String> records = consumer.poll(100);    records.forEach(record -> {        log.info("Received record: {}", record);    });
    // Commit last offset    consumer.commitSync();}

有些配置同生產(chǎn)者代碼的配置是類似的，例如 topic，Server 等。另外使用 Kafka 的 group.id 作為配置 Pulsar 中的訂閱名稱，關(guān)閉自動提交，在消費(fèi)者端為 key 和 value 配置的是反序列化的類。然后同常規(guī)的消費(fèi)者類似，開始消費(fèi)消息。

?? 使用 Pulsar Schema

在上述情況中使用的是 Kafka 的 Schema 來進(jìn)行序列化與反序列化，當(dāng)然也支持使用 Pulsar 的 Schema 來進(jìn)行此過程。下面使用 AVRO 進(jìn)行簡單的介紹。

首先定義 Schema 所需要使用的 pojo 類。

@Data@ToString@EqualsAndHashCodepublic class Foo {    @Nullable    private String field1;    @Nullable    private String field2;    private int field3;}
@Data@ToString@EqualsAndHashCodepublic class Bar {    private boolean field1;}

>>> 生產(chǎn)者端代碼

String topic = "persistent://public/default/test-avro";
Properties props = new Properties();props.put("bootstrap.servers", "pulsar://localhost:6650");
props.put("key.serializer", IntegerSerializer.class.getName());props.put("value.serializer", StringSerializer.class.getName());
AvroSchema<Bar> barSchema = AvroSchema.of(SchemaDefinition.<Bar>builder().withPojo(Bar.class).build());AvroSchema<Foo> fooSchema = AvroSchema.of(SchemaDefinition.<Foo>builder().withPojo(Foo.class).build());
Bar bar = new Bar();bar.setField1(true);
Foo foo = new Foo();foo.setField1("field1");foo.setField2("field2");foo.setField3(3);

Producer<Foo, Bar> producer = new KafkaProducer<>(props, fooSchema, barSchema);
for (int i = 0; i < 10; i++) {    producer.send(new ProducerRecord<Foo, Bar>(topic, i, foo, bar));    log.info("Message {} sent successfully", i);}
producer.close();

可以看到大部分配置同上面使用 Kafka Client 的配置是類似的，但是中間加入了一些 Pulsar 的 Schema，使用 Foo 作為 key，使用 Bar 類作為 value。

>>> 消費(fèi)者端代碼

String topic = "persistent://public/default/test-avro";
Properties props = new Properties();props.put("bootstrap.servers", "pulsar://localhost:6650");props.put("group.id", "my-subscription-name");props.put("enable.auto.commit", "false");props.put("key.deserializer", IntegerDeserializer.class.getName());props.put("value.deserializer", StringDeserializer.class.getName());
AvroSchema<Bar> barSchema = AvroSchema.of(SchemaDefinition.<Bar>builder().withPojo(Bar.class).build());AvroSchema<Foo> fooSchema = AvroSchema.of(SchemaDefinition.<Foo>builder().withPojo(Foo.class).build());
Bar bar = new Bar();bar.setField1(true);
Foo foo = new Foo();foo.setField1("field1");foo.setField2("field2");foo.setField3(3);
@SuppressWarnings("resource")Consumer<Foo, Bar> consumer = new PulsarKafkaConsumer<>(props, fooSchema, barSchema);consumer.subscribe(Arrays.asList(topic));
while (true) {    ConsumerRecords<Foo, Bar> records = consumer.poll(100);    records.forEach(record -> {        log.info("Received record: {}", record);    });
    // Commit last offset    consumer.commitSync();}

消費(fèi)者端同樣是類似的配置，使用與生產(chǎn)者端相同的 Schema 進(jìn)行數(shù)據(jù)的反序列化。

以上就是怎么進(jìn)行Pulsar Kafka Client的簡單分析，小編相信有部分知識點(diǎn)可能是我們?nèi)粘９ぷ鲿姷交蛴玫降摹ＯＭ隳芡ㄟ^這篇文章學(xué)到更多知識。更多詳情敬請關(guān)注億速云行業(yè)資訊頻道。

向AI問一下細(xì)節(jié)

怎么進(jìn)行Pulsar Kafka Client的簡單分析

猜你喜歡

最新資訊

相關(guān)推薦

相關(guān)標(biāo)簽