PageRank怎么使用

PageRank是執(zhí)行多次連接的一個(gè)迭代算法，因此它是RDD分區(qū)操作的很好demo，算法維護(hù)兩個(gè)數(shù)據(jù)集

1. (pageID,listList) 包含每個(gè)頁面的相鄰頁面列表。
2. (pageID,rank) 包含每個(gè)頁面的當(dāng)前排序值， pageRank計(jì)算過程大致如下：
3. 將每個(gè)頁面的排序值初始化為1.0
4. 在每次迭代中，對頁面p，向其每個(gè)相鄰頁面(有直接連接的頁面)發(fā)松一個(gè)值為 rank(p)/numNeighbors(p)的貢獻(xiàn)值。
5. 將每個(gè)頁面的排序值設(shè)定為 0.15 + 0.85 *contributionsReceived 其中2 跟3 會重復(fù)循環(huán)幾次，在此過程中算法會逐漸收斂于每個(gè)頁面的實(shí)際PageRank值，實(shí)際操作中一般迭代10次。

package com.sowhat.spark

import org.apache.spark.rdd.RDD
import org.apache.spark.{HashPartitioner, SparkConf, SparkContext}

/**
 * links = （pageID,LinkList）
 * ranks = (pageID,rank)
 **/
object MyPageRank {
  def main(args: Array[String]): Unit = {
    val conf: SparkConf = new SparkConf().setMaster("local[*]").setAppName("pagerank")

    //創(chuàng)建SparkContext，該對象是提交spark App的入口
    val sc = new SparkContext(conf)

    val links: RDD[(String, Seq[String])] = sc.objectFile[(String, Seq[String])]("filepwd").partitionBy(new HashPartitioner(100)).persist()
    var ranks: RDD[(String, Double)] = links.mapValues(x => 1.0)

    for (i <- 0 until 10) {
      val totalRDD: RDD[(String, (Seq[String], Double))] = links.join(ranks)
      val contributions: RDD[(String, Double)] = totalRDD.flatMap(
        {
          case (pageID, (links, rank)) => links.map(dest => (dest, rank / links.size))
        }
      )
      ranks = contributions.reduceByKey(_ + _).mapValues(v => 0.15 + 0.85 * v)
    }
    ranks.saveAsTextFile("ranks")
  }

}

算法從ranksRDD的每個(gè)元素的值初始化為1.0開始，然后每次迭代都都不斷的更新ranks值，其中主要優(yōu)化部分如下。

1. linksRDD每次迭代都會跟ranks發(fā)生連接操作，因此將大數(shù)據(jù)集links進(jìn)行partitionBy 會節(jié)約相當(dāng)多的網(wǎng)絡(luò)通信優(yōu)化開銷。
2. 跟上面的原因一樣，用persist 可以將數(shù)據(jù)保存早內(nèi)存中，以供每次迭代使用。
3. 我們在第一次創(chuàng)建ranks時(shí)， 我們用mapValues而不是map() 來保留父RDD links的分區(qū)方式，這樣對第一次連接操作開銷減少很多。
4. 循環(huán)體中 reduceByKey后使用mapValues 因?yàn)閞educeByKey已經(jīng)是哈希分區(qū)了，下一次迭代時(shí)候效率更快。

建議：為最大化分區(qū)相關(guān)優(yōu)化潛在作用，在無需更改元素鍵的時(shí)候盡量使用 mapValues 或 flatMapValues。

本文使用 mdnice 排版