hadoop中怎么讀取protobuf數(shù)據(jù)

這篇文章主要介紹“ hadoop中怎么讀取protobuf數(shù)據(jù) ”，在日常操作中，相信很多人在 hadoop中怎么讀取protobuf數(shù)據(jù) 問題上存在疑惑，小編查閱了各式資料，整理出簡單好用的操作方法，希望對大家解答” hadoop中怎么讀取protobuf數(shù)據(jù) ”的疑惑有所幫助！接下來，請跟著小編一起來學(xué)習(xí)吧！

在mapreduce中讀取protobuf數(shù)據(jù)時，會遇到一個坑

BytesWritable。當(dāng)你把byte[]數(shù)據(jù)保存到BytesWritable后，通過BytesWritable.getBytes()再讀到的數(shù)據(jù)并不一定是原數(shù)據(jù)，可能變長了很多，這是因為BytesWritable采用了自動內(nèi)存增長算法，你保存的數(shù)據(jù)長度為size時，它可能將數(shù)據(jù)保存到了長度為capacity（capacity>size）的buffer中，這時候，你通過BytesWritable.getBytes()得到的數(shù)據(jù)最后一些字符是多余的，如果里面保存的是protobuf序列化后的數(shù)據(jù)，則無法反序列化，這時候可以使用BytesWritable.setCapacity(BytesWritable.getLength())將后面多余空間剔除掉，然后就可以使用protobuf反序列為原始數(shù)據(jù)。

關(guān)鍵代碼如下

conf.setInputFormat(SequenceFileAsBinaryInputFormat.class);

public void map(Object key, BytesWritable values, OutputCollector output,
            Reporter reporter) throws IOException {
    values.setCapacity(values.getLength());// very important !!!
    byte[] data = values.getBytes();
    // more code
}

到此，關(guān)于“ hadoop中怎么讀取protobuf數(shù)據(jù) ”的學(xué)習(xí)就結(jié)束了，希望能夠解決大家的疑惑。理論與實踐的搭配能更好的幫助大家學(xué)習(xí)，快去試試吧！若想繼續(xù)學(xué)習(xí)更多相關(guān)知識，請繼續(xù)關(guān)注億速云網(wǎng)站，小編會繼續(xù)努力為大家?guī)砀鄬嵱玫奈恼拢?/p>