如何使用java寫spark

這篇文章給大家分享的是有關(guān)如何使用java寫spark的內(nèi)容。小編覺得挺實(shí)用的，因此分享給大家做個參考，一起跟隨小編過來看看吧。

package hgs.spark;
import java.util.ArrayList;
import java.util.Iterator;
import java.util.List;
import org.apache.spark.SparkConf;
import org.apache.spark.api.java.JavaPairRDD;
import org.apache.spark.api.java.JavaRDD;
import org.apache.spark.api.java.JavaSparkContext;
import org.apache.spark.api.java.function.FlatMapFunction;
import org.apache.spark.api.java.function.Function2;
import org.apache.spark.api.java.function.PairFlatMapFunction;
import scala.Tuple2;
public class JavaRDDWC {
	public static void main(String[] args) {
		//System.setProperty("HADOOP_USER_NAME","administrator");
		//需要hadoop windows的winutils.exe
		System.setProperty("hadoop.home.dir", "D:\\hadoop-2.7.1");
		SparkConf conf = new SparkConf().setAppName("javawc").setMaster("local[2]");
		@SuppressWarnings("resource")
		JavaSparkContext context = new JavaSparkContext(conf);
		
		JavaRDD<String> rdd = context.textFile("D:\\test.txt");
		//split成數(shù)組
		JavaRDD<String[]> rdd1 = rdd.map(s -> s.split(","));
		//只有pairrdd才可以reducebykey
		JavaPairRDD<String, Integer> rdd2 = rdd1.flatMapToPair(new flatMapFunc());
		JavaPairRDD<String, Integer> rdd3 = rdd2.reduceByKey(new reducefunc());
		
		rdd3.saveAsTextFile("D:\\fff");
		context.stop();
	}
}
class reducefunc implements Function2<Integer, Integer, Integer>{
	/**
	 * 
	 */
	private static final long serialVersionUID = 1L;
	@Override
	public Integer call(Integer v1, Integer v2) throws Exception {
		
		return v1+v2;
	}
}
class flatmf implements FlatMapFunction<String[], String>{
	/**
	 * 
	 */
	private static final long serialVersionUID = 1L;
	@Override
	public Iterator<String> call(String[] t) throws Exception {
		List<String> list = new ArrayList<>();
		for(String str : t) {
			list.add(str);
		}
		
		return list.iterator();
	}	
}
class flatMapFunc implements PairFlatMapFunction<String[], String, Integer>{
	/**
	 * 
	 */
	private static final long serialVersionUID = 1L;
	@Override
	public Iterator<Tuple2<String, Integer>> call(String[] t) throws Exception {
		List<Tuple2<String,Integer>> list = new ArrayList<>();
		for(String str : t) {
			list.add(new Tuple2<String, Integer>(str, 1));
		}
		
		return list.iterator();
	}
	
}

感謝各位的閱讀！關(guān)于“如何使用java寫spark”這篇文章就分享到這里了，希望以上內(nèi)容可以對大家有一定的幫助，讓大家可以學(xué)到更多知識，如果覺得文章不錯，可以把它分享出去讓更多的人看到吧！