消息隊列之kafka(整合flume)

補充：在flume的的lib中已經(jīng)有了kafka的依賴包，所以直接使用flume的配置文件即可。
這里舉出kafka+flume的典型場景：（Kafka-----sink）

source ：netcat
channel：memory
sink：kafka sink

netcat-kafka.conf

#別名
a1.sources=s1
a1.channels=c1
a1.sinks=k1

#source
a1.sources.s1.type=netcat
a1.sources.s1.bind=192.168.5.0
a1.sources.s1.port=6666

#channel
a1.channels.c1.type=memory

#sink
a1.sinks.k1.type = org.apache.flume.sink.kafka.KafkaSink
a1.sinks.k1.kafka.topic = kafka_test  #傳入的的主題
a1.sinks.k1.kafka.bootstrap.servers = hadoop02:9092  #kafka集群入口
a1.sinks.k1.kafka.producer.acks = 1   #消息確認級別
#指定壓縮的類型
a1.sinks.k1.kafka.producer.compression.type = snappy

a1.sources.s1.channels=c1
a1.sinks.k1.channel=c1

最后啟動flume的配置文件即可：
bin/flume-ng agent -n a1 -c conf -f conf/myconf/netcat-kafka.conf -Dflume.root.logger=INFO,console

官網(wǎng)地址：http://flume.apache.org/FlumeUserGuide.html#kafka-sink