溫馨提示×

溫馨提示×

您好,登錄后才能下訂單哦!

密碼登錄×
登錄注冊×
其他方式登錄
點(diǎn)擊 登錄注冊 即表示同意《億速云用戶服務(wù)條款》

本地jvm如何執(zhí)行flink程序帶web ui的操作

發(fā)布時間:2021-08-17 09:04:24 來源:億速云 閱讀:137 作者:小新 欄目:開發(fā)技術(shù)

這篇文章主要為大家展示了“本地jvm如何執(zhí)行flink程序帶web ui的操作”,內(nèi)容簡而易懂,條理清晰,希望能夠幫助大家解決疑惑,下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“本地jvm如何執(zhí)行flink程序帶web ui的操作”這篇文章吧。

本地jvm執(zhí)行flink帶web ui

使用

StreamExecutionEnvironment executionEnvironment = StreamExecutionEnvironment.getExecutionEnvironment();

可以獲取flink執(zhí)行環(huán)境。但是本地jvm執(zhí)行的時候是不帶web ui的。有時候出于監(jiān)控的考慮,需要帶著監(jiān)控頁面查看。任務(wù)運(yùn)行狀況,可以使用下面方式獲取flink本地執(zhí)行環(huán)境,并帶有web ui。

Configuration config = new Configuration();
config.setInteger(RestOptions.PORT,9998);
StreamExecutionEnvironment env = StreamExecutionEnvironment.createLocalEnvironmentWithWebUI(config);

Flink 本地執(zhí)行入門

一、maven依賴

<properties>
    <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
    <flink.version>1.6.3</flink.version>
    <java.version>1.8</java.version>
    <scala.version>2.11.8</scala.version>
    <hbase.version>1.2.4</hbase.version>
    <scala.binary.version>2.11</scala.binary.version>
    <maven.compiler.source>${java.version}</maven.compiler.source>
    <maven.compiler.target>${java.version}</maven.compiler.target>
</properties>
<dependency>
    <groupId>org.apache.flink</groupId>
    <artifactId>flink-clients_${scala.binary.version}</artifactId>
    <version>${flink.version}</version>
</dependency>

二、本地執(zhí)行

import org.apache.flink.api.common.functions.FilterFunction;
import org.apache.flink.api.java.DataSet;
import org.apache.flink.api.common.JobExecutionResult;
import org.apache.flink.api.java.ExecutionEnvironment;
public class FlinkReadTextFile {
    public static void main(String[] args) throws Exception {
        ExecutionEnvironment env = ExecutionEnvironment.createLocalEnvironment();
        DataSet<String> data = env.readTextFile("file:///Users/***/Documents/test.txt");
        data.filter(new FilterFunction<String>() {
            @Override
            public boolean filter(String value) throws Exception {
                return value.startsWith("五芳齋美");
            }
        })
                .writeAsText("file:///Users/***/Documents/test01.txt");
        JobExecutionResult res = env.execute();
    }
}

三、實(shí)例

import org.apache.flink.streaming.api.windowing.time.Time
import org.apache.flink.streaming.api.scala._
 
object SocketWindowWordCount {
  /** Main program method */
  def main(args: Array[String]): Unit ={ // the port to connect to
//  val port: Int = try {
//    ParameterTool.fromArgs(args).getInt("port")
//  } catch {
//    case e: Exception => {
//      System.err.println("No port specified. Please run 'SocketWindowWordCount --port <port>'")
//      return
//    }
//  }
  // get the execution environment
  val env: StreamExecutionEnvironment = StreamExecutionEnvironment.getExecutionEnvironment
  // get input data by connecting to the socket
  val text = env.socketTextStream("localhost", 9000, '\n')
  // parse the data, group it, window it, and aggregate the counts
  val windowCounts = text
    .flatMap { w => w.split("\\s") }
    .map { w => WordWithCount(w, 1) }
    .keyBy("word")
    .timeWindow(Time.seconds(5), Time.seconds(1))
    .sum("count")
  // print the results with a single thread, rather than in parallel
  windowCounts.print().setParallelism(1)
  env.execute("Socket Window WordCount")
}
// Data type for words with count
case class WordWithCount(word: String, count: Long)
}

以上是“本地jvm如何執(zhí)行flink程序帶web ui的操作”這篇文章的所有內(nèi)容,感謝各位的閱讀!相信大家都有了一定的了解,希望分享的內(nèi)容對大家有所幫助,如果還想學(xué)習(xí)更多知識,歡迎關(guān)注億速云行業(yè)資訊頻道!

向AI問一下細(xì)節(jié)

免責(zé)聲明:本站發(fā)布的內(nèi)容(圖片、視頻和文字)以原創(chuàng)、轉(zhuǎn)載和分享為主,文章觀點(diǎn)不代表本網(wǎng)站立場,如果涉及侵權(quán)請聯(lián)系站長郵箱:is@yisu.com進(jìn)行舉報,并提供相關(guān)證據(jù),一經(jīng)查實(shí),將立刻刪除涉嫌侵權(quán)內(nèi)容。

AI