溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊(cè)×
其他方式登錄
點(diǎn)擊 登錄注冊(cè) 即表示同意《億速云用戶服務(wù)條款》

大數(shù)據(jù):Windows下配置flink的Stream

發(fā)布時(shí)間:2020-06-22 07:41:31 來源:網(wǎng)絡(luò) 閱讀:620 作者:愛碼學(xué)院 欄目:大數(shù)據(jù)

對(duì)于開發(fā)人員來說,最希望的是需要在windows中進(jìn)行測(cè)試,然后把調(diào)試好的程序放在集群中運(yùn)行。下面寫一個(gè)Socket,上面是監(jiān)控本地的一個(gè)運(yùn)行端口,來實(shí)時(shí)的提取數(shù)據(jù)。獲取視頻中文檔資料及完整視頻的伙伴請(qǐng)加QQ群:947967114

下面是一段代碼:

import org.apache.flink.api.java.utils.ParameterToolimport org.apache.flink.streaming.api.scala._import org.apache.flink.streaming.api.windowing.time.Timeobject SocketWindowWordCount { def main(args: Array[String]): Unit = { val port:Int=try{ ParameterTool.fromArgs(args).getInt("port") } catch{ case e:Exception=>{ System.out.print("Noport spacified.Please run 'SocketWindowWordCount'") return } } val env:StreamExecutionEnvironment=StreamExecutionEnvironment.getExecutionEnvironment val text=env.socketTextStream("localhost",port,'\n') val windowWordCount=text.flatMap{w=>w.split("\s+")}.map{w=>WordWithCount(w,1)}. keyBy("word").timeWindow(Time.seconds(5),Time.seconds(1)).sum("count") windowWordCount.print().setParallelism(1) env.execute("Socket Window WordCount") }}case class WordWithCount(word: String, count: Long){}

這個(gè)程序有幾個(gè)需要注意的。第一個(gè)org.apache.flink.streaming.api.windowing.time.Time是這個(gè)時(shí)間包的使用。第二個(gè)是org.apache.flink.streaming.api.scala._,不要直接引入org.apache.flink.streaming.api.scala.StreamExecutionEnvironment。
大數(shù)據(jù):Windows下配置flink的Stream

配置windows的nc端口,在網(wǎng)上下載nc.exe(https://eternallybored.org/misc/netcat/)

選擇版本:解壓放在一個(gè)指定的目錄上。然后在cmd環(huán)境中進(jìn)入到這個(gè)目錄。獲取視頻中文檔資料及完整視頻的伙伴請(qǐng)加QQ群:947967114
大數(shù)據(jù):Windows下配置flink的Stream

使用命令開始nc制定端口為9000(nc -L -p 9000 -v)
大數(shù)據(jù):Windows下配置flink的Stream

在IDEA中設(shè)置輸入?yún)?shù):

大數(shù)據(jù):Windows下配置flink的Stream

指定端口--port 9000,然后運(yùn)行

大數(shù)據(jù):Windows下配置flink的Stream

Cmd端口中輸入數(shù)據(jù),在flink中可以看到實(shí)時(shí)的云運(yùn)算結(jié)果:

大數(shù)據(jù):Windows下配置flink的Stream

至此,flink在windows中的一個(gè)stream配置完成。獲取視頻中文檔資料及完整視頻的伙伴請(qǐng)加QQ群:947967114

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如果涉及侵權(quán)請(qǐng)聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報(bào),并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI