Java如何實現(xiàn)Kafka生產(chǎn)者消費者

發(fā)布時間：2020-08-01 10:17:43 來源：億速云閱讀：305 作者：小豬欄目：編程語言

小編這次要給大家分享的是Java如何實現(xiàn)Kafka生產(chǎn)者消費者，文章內(nèi)容豐富，感興趣的小伙伴可以來了解一下，希望大家閱讀完這篇文章之后能夠有所收獲。

Kafka的結(jié)構(gòu)與RabbitMQ類似，消息生產(chǎn)者向Kafka服務器發(fā)送消息，Kafka接收消息后，再投遞給消費者。
生產(chǎn)者的消費會被發(fā)送到Topic中，Topic中保存著各類數(shù)據(jù)，每一條數(shù)據(jù)都使用鍵、值進行保存。
每一個Topic中都包含一個或多個物理分區(qū)（Partition），分區(qū)維護著消息的內(nèi)容和索引，它們有可能被保存在不同服務器。

新建一個Maven項目，pom.xml 加入依賴：

    <dependency>
      <groupId>org.apache.kafka</groupId>
      <artifactId>kafka-clients</artifactId>
      <version>2.3.0</version>
    </dependency>

1、編寫生產(chǎn)者

將消息投遞到Kafka服務器的名稱為“topic1”的Topic中

package com.example.kafkatest;

import org.apache.kafka.clients.producer.KafkaProducer;
import org.apache.kafka.clients.producer.ProducerRecord;
import org.apache.kafka.common.serialization.StringSerializer;

import java.util.Properties;

public class Producer {
  public static void main(String[] args) {
    //配置信息
    Properties props = new Properties();
    //kafka服務器地址
    props.put("bootstrap.servers", "localhost:9092");
    //設置數(shù)據(jù)key和value的序列化處理類
    props.put("key.serializer", StringSerializer.class);
    props.put("value.serializer", StringSerializer.class);
    //創(chuàng)建生產(chǎn)者實例
    KafkaProducer<String,String> producer = new KafkaProducer<>(props);
    ProducerRecord record = new ProducerRecord<String, String>("topic1", "userName", "lc");
    //發(fā)送記錄
    producer.send(record);
    producer.close();
  }
}

運行后，可打開命令行工具，進入Kafka目錄，執(zhí)行命令查詢服務器的Topic：

bin\windows\kafka-topics.bat --list --zookeeper localhost:2181

結(jié)果如下：

Java如何實現(xiàn)Kafka生產(chǎn)者消費者

2、編寫消費者

本例中，消費者和生產(chǎn)者在同一個項目中，只是使用不同的啟動類。

消費者會為自已指定一個消費者組的標識，每一條發(fā)布到Topic的記錄，都會被交付給消費者組的一個消費者實例。

如果多個消費者實例有相同的消費者組，則這些記錄會分配到各個消費者實例上，以達到負載均衡的目錄。

如果所有的消費者有不同的消費者組，則每一條記錄都會廣播到全部的消費者進行處理。

package com.example.rabbittest;

import org.apache.kafka.clients.consumer.ConsumerRecord;
import org.apache.kafka.clients.consumer.ConsumerRecords;
import org.apache.kafka.clients.consumer.KafkaConsumer;
import org.apache.kafka.common.serialization.StringDeserializer;

import java.time.Duration;
import java.util.Arrays;
import java.util.Properties;

public class Consumer {
  public static void main(String[] args) {
    //配置信息
    Properties props = new Properties();
    //kafka服務器地址
    props.put("bootstrap.servers", "localhost:9092");
    //必須指定消費者組
    props.put("group.id", "test");
    //設置數(shù)據(jù)key和value的序列化處理類
    props.put("key.deserializer", StringDeserializer.class);
    props.put("value.deserializer", StringDeserializer.class);
    //創(chuàng)建消息者實例
    KafkaConsumer<String,String> consumer = new KafkaConsumer<>(props);
    //訂閱topic1的消息
    consumer.subscribe(Arrays.asList("topic1"));
    //到服務器中讀取記錄
    while (true){
      ConsumerRecords<String,String> records = consumer.poll(Duration.ofMillis(100));
      for(ConsumerRecord<String,String> record : records){
        System.out.println("key:" + record.key() + "" + ",value:" + record.value());
      }
    }
  }
}

運行后，IDEA控制臺其中輸出如下：

Java如何實現(xiàn)Kafka生產(chǎn)者消費者

看完這篇關(guān)于Java如何實現(xiàn)Kafka生產(chǎn)者消費者的文章，如果覺得文章內(nèi)容寫得不錯的話，可以把它分享出去給更多人看到。

向AI問一下細節(jié)

Java如何實現(xiàn)Kafka生產(chǎn)者消費者

猜你喜歡

最新資訊

相關(guān)推薦

相關(guān)標簽