设为首页 加入收藏

TOP

8.Spark集群测试
2017-10-10 12:13:36 】 浏览:3838
Tags:8.Spark 集群 测试

Spark集群测试

 

把Spark安装包下的”README.txt”上传到hdfs

wps2EF.tmp

通过hdfs的web控制台可以发现成功上传了文件:

wps2F0.tmp

启动Spark shell:

接下来通过以下命令读取刚刚上传到HDFS上的“README.md”文件 :

val file = sc.textFile("hdfs://192.168.0.49:9000/dmy/README.md")

wps301.tmp

对读取的文件进行以下操作:

val count = file.flatMap(line => line.split(" ")).map(word => (word,1)).reduceByKey(_+_)

接下来使用collect命令提交并执行Job:

count.collect

wps313.tmp

wps323.tmp

从控制台可以看到我们的程序成功在集群上运行.

使用Spark交互模式:

1. 运行./spark-shell.sh

2. scala> val data = Array(1, 2, 3, 4, 5) //产生data

data: Array[Int] = Array(1, 2, 3, 4, 5)

3. scala> val distData = sc.parallelize(data) //将data处理成RDD

distData: spark.RDD[Int] = spark.ParallelCollection@7a0ec850 (显示出的类型为RDD)

4. scala> distData.reduce(_+_) //在RDD上进行运算,对data里面元素进行加和

12/05/10 09:36:20 INFO spark.SparkContext: Starting job...

5. 最后运行得到

12/05/10 09:36:20 INFO spark.SparkContext: Job finished in 0.076729174 s

res2: Int = 15

wps324.tmp

】【打印繁体】【投稿】【收藏】 【推荐】【举报】【评论】 【关闭】 【返回顶部
上一篇Scala类型系统(sudden thought) 下一篇Scalaz(8)- typeclass:Monoid..

评论

帐  号: 密码: (新用户注册)
验 证 码:
表  情:
内  容:

最新文章

热门文章

C 语言

C++基础

windows编程基础

linux编程基础

C/C++面试题目