創(chuàng)建RDD的方式有哪些

map(func)

返回一個(gè)新的RDD，該RDD由每一個(gè)輸入元素經(jīng)過func函數(shù)轉(zhuǎn)換后組成

filter(func)

返回一個(gè)新的RDD，該RDD由經(jīng)過func函數(shù)計(jì)算后返回值為true的輸入元素組成

flatMap(func)

類似于map，但是每一個(gè)輸入元素可以被映射為0或多個(gè)輸出元素（所以func應(yīng)該返回一個(gè)序列，而不是單一元素）

mapPartitions(func)

類似于map，但獨(dú)立地在RDD的每一個(gè)分片上運(yùn)行，因此在類型為T的RDD上運(yùn)行時(shí)，func的函數(shù)類型必須是Iterator[T] => Iterator[U]

mapPartitionsWithIndex(func)

類似于mapPartitions，但func帶有一個(gè)整數(shù)參數(shù)表示分片的索引值，因此在類型為T的RDD上運(yùn)行時(shí)，func的函數(shù)類型必須是(Int, Iterator[T]) => Iterator[U]

sample(withReplacement, fraction, seed)

根據(jù)fraction指定的比例對(duì)數(shù)據(jù)進(jìn)行采樣，可以選擇是否使用隨機(jī)數(shù)進(jìn)行替換，seed用于指定隨機(jī)數(shù)生成器種子

union(otherDataset)

對(duì)源RDD和參數(shù)RDD求并集后返回一個(gè)新的RDD

intersection(otherDataset)

對(duì)源RDD和參數(shù)RDD求交集后返回一個(gè)新的RDD

distinct([numTasks]))

對(duì)源RDD進(jìn)行去重后返回一個(gè)新的RDD

groupByKey([numTasks])

在一個(gè)(K,V)的RDD上調(diào)用，返回一個(gè)(K, Iterator[V])的RDD

reduceByKey(func, [numTasks])

在一個(gè)(K,V)的RDD上調(diào)用，返回一個(gè)(K,V)的RDD，使用指定的reduce函數(shù)，將相同key的值聚合到一起，與groupByKey類似，reduce任務(wù)的個(gè)數(shù)可以通過第二個(gè)可選的參數(shù)來設(shè)置

aggregateByKey(zeroValue)(seqOp, combOp, [numTasks])

相同的Key值進(jìn)行聚合操作，在聚合過程中同樣使用了一個(gè)中立的初始值z(mì)eroValue:中立值,定義返回value的類型，并參與運(yùn)算seqOp:用來在同一個(gè)partition中合并值combOp:用來在不同partiton中合并值

sortByKey([ascending], [numTasks])

在一個(gè)(K,V)的RDD上調(diào)用，K必須實(shí)現(xiàn)Ordered接口，返回一個(gè)按照key進(jìn)行排序的(K,V)的RDD

sortBy(func,[ascending], [numTasks])

與sortByKey類似，但是更靈活

join(otherDataset, [numTasks])

在類型為(K,V)和(K,W)的RDD上調(diào)用，返回一個(gè)相同key對(duì)應(yīng)的所有元素對(duì)在一起的(K,(V,W))的RDD

cogroup(otherDataset, [numTasks])

在類型為(K,V)和(K,W)的RDD上調(diào)用，返回一個(gè)(K,(Iterable,Iterable))類型的RDD

cartesian(otherDataset)

笛卡爾積

pipe(command, [envVars])

將一些shell命令用于Spark中生成新的RDD

coalesce(numPartitions)

重新分區(qū)

repartition(numPartitions)

重新分區(qū)

repartitionAndSortWithinPartitions(partitioner)

重新分區(qū)和排序

reduce(func)

通過func函數(shù)聚集RDD中的所有元素，這個(gè)功能必須是可交換且可并聯(lián)的

collect()

在驅(qū)動(dòng)程序中，以數(shù)組的形式返回?cái)?shù)據(jù)集的所有元素

count()

返回RDD的元素個(gè)數(shù)

first()

返回RDD的第一個(gè)元素（類似于take(1)）

take(n)

返回一個(gè)由數(shù)據(jù)集的前n個(gè)元素組成的數(shù)組

takeSample(withReplacement,num, [seed])

返回一個(gè)數(shù)組，該數(shù)組由從數(shù)據(jù)集中隨機(jī)采樣的num個(gè)元素組成，可以選擇是否用隨機(jī)數(shù)替換不足的部分，seed用于指定隨機(jī)數(shù)生成器種子

takeOrdered(n, [ordering])

takeOrdered和top類似，只不過以和top相反的順序返回元素

saveAsTextFile(path)

將數(shù)據(jù)集的元素以textfile的形式保存到HDFS文件系統(tǒng)或者其他支持的文件系統(tǒng)，對(duì)于每個(gè)元素，Spark將會(huì)調(diào)用toString方法，將它裝換為文件中的文本

saveAsSequenceFile(path)

將數(shù)據(jù)集中的元素以Hadoop sequencefile的格式保存到指定的目錄下，可以使HDFS或者其他Hadoop支持的文件系統(tǒng)。

saveAsObjectFile(path)

countByKey()

針對(duì)(K,V)類型的RDD，返回一個(gè)(K,Int)的map，表示每一個(gè)key對(duì)應(yīng)的元素個(gè)數(shù)。

foreach(func)

在數(shù)據(jù)集的每一個(gè)元素上，運(yùn)行函數(shù)func進(jìn)行更新。