溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點擊 登錄注冊 即表示同意《億速云用戶服務條款》

Storm DRPC怎么使用

發(fā)布時間:2021-12-22 17:28:35 來源:億速云 閱讀:125 作者:iii 欄目:云計算

本篇內容主要講解“Storm DRPC怎么使用”,感興趣的朋友不妨來看看。本文介紹的方法操作簡單快捷,實用性強。下面就讓小編來帶大家學習“Storm DRPC怎么使用”吧!

Storm里面引入DRPC主要是利用storm的實時計算能力來并行化CPU密集型(CPU intensive)的計算任務。DRPC的stormtopology以函數(shù)的參數(shù)流作為輸入,而把這些函數(shù)調用的返回值作為topology的輸出流。

DRPC其實不能算是storm本身的一個特性, 它是通過組合storm的原語stream、spout、bolt、 topology而成的一種模式(pattern)。本來應該把DRPC單獨打成一個包的, 但是DRPC實在是太有用了,所以我們我們把它和storm捆綁在一起。

概覽

Distributed RPC是由一個”DPRC服務器”協(xié)調(storm自帶了一個實現(xiàn))。DRPC服務器協(xié)調:① 接收一個RPC請求  ② 發(fā)送請求到storm topology  ③ 從storm topology接收結果  ④ 把結果發(fā)回給等待的客戶端。從客戶端的角度來看一個DRPC調用跟一個普通的RPC調用沒有任何區(qū)別。比如下面是客戶端如何調用RPC計算“reach”功能(function)的結果

  

DRPCClient client =  new DRPCClient("drpc-host", 3772);

  

String result =  client.execute("reach", "http://twitter.com");

  

DRPC的工作流大致是這樣的(重要☆):

Storm DRPC怎么使用

客戶端給DRPC服務器發(fā)送要執(zhí)行的函數(shù)(function)的名字,以及這個函數(shù)的參數(shù)。實現(xiàn)了這個函數(shù)的topology使用DRPCSpout從DRPC服務器接收函數(shù)調用流,每個函數(shù)調用被DRPC服務器標記了一個唯一的id。 這個topology然后計算結果,在topology的最后,一個叫做ReturnResults的bolt會連接到DRPC服務器,并且把這個調用的結果發(fā)送給DRPC服務器(通過那個唯一的id標識)。DRPC服務器用那個唯一id來跟等待的客戶端匹配上,喚醒這個客戶端并且把結果發(fā)送給它。

LinearDRPCTopologyBuilder

Storm自帶了一個稱作LinearDRPCTopologyBuilder的topology builder,它把實現(xiàn)DRPC的幾乎所有步驟都自動化了。這些步驟包括:

1、設置spout

2、把結果返回給DRPC服務器

3、給bolt提供有限聚合幾組tuples的能力

來看一個簡單的例子,下面是一個把輸入?yún)?shù)后面添加一個”!”的DRPC topology的實現(xiàn):

  

public static class  ExclaimBolt extends BaseBasicBolt {

  

    public void execute(Tuple tuple,  BasicOutputCollector collector) {

  

        String input = tuple.getString(1);

  

        collector.emit(new  Values(tuple.getValue(0), input + "!"));

  

    }

  

    public void  declareOutputFields(OutputFieldsDeclarer declarer) {

  

        declarer.declare(new  Fields("id", "result"));

  

    }

  

}

  


  

public static void  main(String[] args) throws Exception {

  

    LinearDRPCTopologyBuilder builder = new  LinearDRPCTopologyBuilder("exclamation");

  

    builder.addBolt(new ExclaimBolt(), 3);

  

    // ...

  

}

  

可以看出來,我們需要做的事情非常的少。創(chuàng)建LinearDRPCTopologyBuilder的時候,你需要告訴它你要實現(xiàn)的DRPC函數(shù)(DRPC function)的名字。一個DRPC服務器可以協(xié)調很多函數(shù),函數(shù)與函數(shù)之間靠函數(shù)名字來區(qū)分。你聲明的第一個bolt會接收一個兩維tuple,tuple的第一個字段是request-id,第二個字段是這個請求的參數(shù)。LinearDRPCTopologyBuilder同時要求我們topology的最后一個bolt發(fā)送一個形如[id, result]的二維tuple:第一個field是request-id,第二個field是這個函數(shù)的結果。最后所有中間tuple的第一個field必須是request-id。

在這里例子里面ExclaimBolt 簡單地在輸入tuple的第二個field后面再添加一個”!”,其余的事情都由LinearDRPCTopologyBuilder幫我們搞定:連接到DRPC服務器,并且把結果發(fā)回。

本地模式DRPC

DRPC可以以本地模式運行,下面就是以本地模式運行上面例子的代碼:

  

LocalDRPC drpc = new LocalDRPC();

  

LocalCluster cluster = new  LocalCluster();

  


  

cluster.submitTopology("drpc-demo",  conf, builder.createLocalTopology(drpc));

  


  

System.out.println("Results for  'hello':" + drpc.execute("exclamation", "hello"));

  


  

cluster.shutdown();

  

drpc.shutdown();

  

首先你創(chuàng)建一個LocalDRPC對象,這個對象在進程內模擬一個DRPC服務器(這很類似于LocalCluster在進程內模擬一個Storm集群),然后創(chuàng)建LocalCluster對象在本地模式運行topology。LinearTopologyBuilder有單獨的方法來創(chuàng)建本地的topology和遠程的topology。在本地模式里面LocalDRPC對象不和任何端口綁定,所以我們的topology對象需要知道和誰交互,這就是為什么createLocalTopology方法接受一個LocalDRPC對象作為輸入的原因。

把topology啟動了之后,你就可以通過調用LocalDRPC對象的execute來調用RPC方法了。

遠程模式DRPC

在一個真實集群上面DRPC也是非常簡單的,有三個步驟:

1、啟動DRPC服務器

2、配置DRPC服務器的地址

3、提交DRPCtopology到storm集群里面去。

我們可以通過“bin/storm drpc”命令來啟動DRPC服務器。

接著,你需要讓你的storm集群知道你的DRPC服務器的地址。DRPCSpout需要這個地址從而可以從DRPC服務器來接收函數(shù)調用。這個可以配置在storm.yaml或者通過代碼的方式配置在topology里面。通過storm.yaml配置是這樣的:

  

drpc.servers:

  

  - "drpc1.foo.com"

  

  - "drpc2.foo.com"

  

最后,你通過StormSubmitter對象來提交DRPC topology(這個跟你提交其它topology沒有區(qū)別)。如果要以遠程的方式運行上面的例子,用下面的代碼:

  

StormSubmitter.submitTopology("exclamation-drpc",  conf, builder.createRemoteTopology());

  

我們用createRemoteTopology方法來創(chuàng)建運行在真實集群上的DRPC topology。

到此,相信大家對“Storm DRPC怎么使用”有了更深的了解,不妨來實際操作一番吧!這里是億速云網(wǎng)站,更多相關內容可以進入相關頻道進行查詢,關注我們,繼續(xù)學習!

向AI問一下細節(jié)

免責聲明:本站發(fā)布的內容(圖片、視頻和文字)以原創(chuàng)、轉載和分享為主,文章觀點不代表本網(wǎng)站立場,如果涉及侵權請聯(lián)系站長郵箱:is@yisu.com進行舉報,并提供相關證據(jù),一經(jīng)查實,將立刻刪除涉嫌侵權內容。

AI