window和groupBy操作方法是什么

這篇文章主要介紹“window和groupBy操作方法是什么”，在日常操作中，相信很多人在window和groupBy操作方法是什么問題上存在疑惑，小編查閱了各式資料，整理出簡(jiǎn)單好用的操作方法，希望對(duì)大家解答”window和groupBy操作方法是什么”的疑惑有所幫助！接下來，請(qǐng)跟著小編一起來學(xué)習(xí)吧！

window操作

import spark.implicits._

val words = ... // streaming DataFrame of schema { timestamp: Timestamp, word: String }

// Group the data by window and word and compute the count of each group
val windowedCounts = words.groupBy(
  window($"timestamp", "10 minutes", "5 minutes"),
  $"word"
).count()

window操作是連續(xù)流特有的操作，設(shè)置時(shí)間窗口大小，根據(jù)窗口大小來執(zhí)行g(shù)roupBy操作等。

看看dataset上的groupBy操作。

groupBy操作

定義：

 def groupBy(cols: Column*): RelationalGroupedDataset = {

    RelationalGroupedDataset(toDF(), cols.map(_.expr), RelationalGroupedDataset.GroupByType)

  }

生成新的RelationalGroupedDataset對(duì)象。該對(duì)象最重要得方法：

 private[this] def toDF(aggExprs: Seq[Expression]): DataFrame = {

    val aggregates = if (df.sparkSession.sessionState.conf.dataFrameRetainGroupColumns) {

      groupingExprs ++ aggExprs

    } else {

      aggExprs

    }

    val aliasedAgg = aggregates.map(alias)

    groupType match {

      case RelationalGroupedDataset.GroupByType =>

        Dataset.ofRows(df.sparkSession, Aggregate(groupingExprs, aliasedAgg, df.logicalPlan))

      case RelationalGroupedDataset.RollupType =>

        Dataset.ofRows(

          df.sparkSession, Aggregate(Seq(Rollup(groupingExprs)), aliasedAgg, df.logicalPlan))

      case RelationalGroupedDataset.CubeType =>

        Dataset.ofRows(

          df.sparkSession, Aggregate(Seq(Cube(groupingExprs)), aliasedAgg, df.logicalPlan))

      case RelationalGroupedDataset.PivotType(pivotCol, values) =>

        val aliasedGrps = groupingExprs.map(alias)

        Dataset.ofRows(

          df.sparkSession, Pivot(Some(aliasedGrps), pivotCol, values, aggExprs, df.logicalPlan))

    }

  }

我們就看一個(gè)吧：

Dataset.ofRows(df.sparkSession, Aggregate(groupingExprs, aliasedAgg, df.logicalPlan))

看看它的實(shí)現(xiàn)機(jī)制是怎樣得？

這里得Aggregate是一種LogicPlan，我們只要看看Aggregate的實(shí)現(xiàn)機(jī)制就可以了。

Aggregate的實(shí)現(xiàn)機(jī)制就要涉及到catalyst包里的相關(guān)類了。

到此，關(guān)于“window和groupBy操作方法是什么”的學(xué)習(xí)就結(jié)束了，希望能夠解決大家的疑惑。理論與實(shí)踐的搭配能更好的幫助大家學(xué)習(xí)，快去試試吧！若想繼續(xù)學(xué)習(xí)更多相關(guān)知識(shí)，請(qǐng)繼續(xù)關(guān)注億速云網(wǎng)站，小編會(huì)繼續(xù)努力為大家?guī)砀鄬?shí)用的文章！