spark mlilib 聚類 KMeans怎么用

這篇文章主要為大家展示了“spark mlilib 聚類 KMeans怎么用”，內(nèi)容簡而易懂，條理清晰，希望能夠幫助大家解決疑惑，下面讓小編帶領(lǐng)大家一起研究并學(xué)習(xí)一下“spark mlilib 聚類 KMeans怎么用”這篇文章吧。

聚類使用場景 

數(shù)據(jù)聚類是對于靜態(tài)數(shù)據(jù)分析的一門技術(shù)，在許多領(lǐng)域內(nèi)都被廣泛地應(yīng)用，包括機器學(xué)習(xí)、數(shù)據(jù)挖掘、模式識別、圖像分析、信息檢索以及生物信息等

運行代碼如下

package spark.clustering

import org.apache.spark.mllib.clustering.KMeans
import org.apache.spark.mllib.linalg.Vectors
import org.apache.spark.{SparkContext, SparkConf}

/**
  * 一般來說，分類是指有監(jiān)督的學(xué)習(xí)，即要分類的樣本是有標(biāo)記的，類別是已知的；
  * 聚類是指無監(jiān)督的學(xué)習(xí)，樣本沒有標(biāo)記，根據(jù)某種相似度度量，將樣本聚為　K類．
  *
  * 聚類KMEANS
  * 基本思想和核心內(nèi)容就是在算法開始時隨機給定若干（k）個中心，按照距離原則將樣本點分配到各個中心點，
  * 之后按照平均法計算聚類集的中心點位置，從而重新確定新的中心點位置．這樣不斷地迭代下去直至聚類集內(nèi)的樣本滿足一定的閾值為止．
  *
  * Created by eric on 16-7-21.
  */
object Kmeans {
  val conf = new SparkConf()                                     //創(chuàng)建環(huán)境變量
    .setMaster("local")                                             //設(shè)置本地化處理
    .setAppName("KMeans")                              //設(shè)定名稱
  val sc = new SparkContext(conf)

  def main(args: Array[String]) {
    val data = sc.textFile("./src/main/spark/clustering/kmeans.txt")
    val parsedData = data.map(s => Vectors.dense(s.split(' ').map(_.toDouble)))
      .cache()
    val numClusters = 2 //最大分類數(shù)
    val numIterations = 20 //迭代次數(shù)
    val model = KMeans.train(parsedData, numClusters, numIterations)

    model.clusterCenters.foreach(println)//分類中心點
    //[1.4000000000000001,2.0]
    //[3.6666666666666665,3.6666666666666665]
  }
}

kmeans.txt

1 2
1 1
1 3
2 2
3 4
4 3
2 2
4 4

結(jié)果如下

以上是“spark mlilib 聚類 KMeans怎么用”這篇文章的所有內(nèi)容，感謝各位的閱讀！相信大家都有了一定的了解，希望分享的內(nèi)容對大家有所幫助，如果還想學(xué)習(xí)更多知識，歡迎關(guān)注億速云行業(yè)資訊頻道！