溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

Pulsar IO 中怎么調(diào)用Schema

發(fā)布時(shí)間:2021-06-24 15:57:57 來源:億速云 閱讀:185 作者:Leah 欄目:大數(shù)據(jù)

這篇文章給大家介紹Pulsar IO 中怎么調(diào)用Schema ,內(nèi)容非常詳細(xì),感興趣的小伙伴們可以參考借鑒,希望對大家能有所幫助。

Schema 是一種描述數(shù)據(jù)的數(shù)據(jù)   。例如,數(shù)據(jù)庫中表的信息和字段類型等都是 Schema。Pulsar 對 Schema 也有比較好的支持。    


>>> Schema 簡單應(yīng)用 <<<  

 
在使用 pub/sub 生產(chǎn)和消費(fèi)消息時(shí),可以通過以下代碼使用 Schema:  
     
   
   
   
public class SensorReading {              public float temperature;          
             public SensorReading(float temperature) {                  this.temperature = temperature;              }          
             // A no-arg constructor is required              public SensorReading() {              }          
             public float getTemperature() {                  return temperature;              }          
             public void setTemperature(float temperature) {                  this.temperature = temperature;              }          }          Producer<SensorReading> producer = client.newProducer(JSONSchema.of(SensorReading.class))              .topic("my-topic")              .create();          Consumer consumer = client.newConsumer(JSONSchema.of(SensorReading.class))                  .topic("my-topic")                  .subscriptionName("my-subscription")                  .subscribe();      


通過以上操作,生產(chǎn)者和消費(fèi)者可以識別出關(guān)于 SensorReading 這個(gè)類的含義。這是 Schema 在客戶端的應(yīng)用,也是比較普遍的使用方法。  

 
前文已經(jīng)提到,Source 和 Sink 是對 pub/sub 的封裝,因此,Schema 的應(yīng)用也是基于以上原理。以下為詳細(xì)說明。  

 
>>> Source 中的 Schema <<<  

 
在內(nèi)建的 Sink 中,實(shí)現(xiàn)了一個(gè) Consumer,用于接收從 Pulsar 發(fā)來的數(shù)據(jù)。  
     
   
   
   if (conf.getSerdeClassName() != null && !conf.getSerdeClassName().isEmpty()) {  
    
        schema = (Schema<T>) topicSchema.getSchema(topic, typeArg, conf.getSerdeClassName(), true);  
    
    } else {  
    
        schema = (Schema<T>) topicSchema.getSchema(topic, typeArg, conf.getSchemaType(), true);  
    
    }


getSerdeClassName    會獲取用戶指定的用于序列化與反序列化的類,通過指定 --   custom-serde-inputs    參數(shù),從而構(gòu)建真正的 Schema。  
     
   
   
   
case NONE:            return (Schema<T>) Schema.BYTES;          
         case AUTO_CONSUME:          case AUTO:            return (Schema<T>) Schema.AUTO_CONSUME();          
         case STRING:            return (Schema<T>) Schema.STRING;          
         case AVRO:            return AvroSchema.of(SchemaDefinition.<T>builder().withPojo(clazz).build());          
         case JSON:            return JSONSchema.of(SchemaDefinition.<T>builder().withPojo(clazz).build());          
         case KEY_VALUE:            return (Schema<T>)Schema.KV_BYTES();          
         case PROTOBUF:            return ProtobufSchema.ofGenericClass(clazz, Collections.emptyMap());          }      


關(guān)于Pulsar IO 中怎么調(diào)用Schema 就分享到這里了,希望以上內(nèi)容可以對大家有一定的幫助,可以學(xué)到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI