Apache Spark的R语言前端:SparkR

数据库 Spark
SparkR是一个R语言包提供了一个轻量级的前端,用于从R语言中使用Apache Spark。SparkR通过RDD类暴露Spark API,允许用户以交互方式在集群上从R shell运行jobs。

Spark是一个开源的集群计算系统,用于快速数据分析,包括快速运行和快速写操作。Spark 是一种与Hadoop相似的开源云计算系统,但是两者之间还存在一些不同之处,这些有用的不同之处使 Spark 在某些工作负载方面表现得更加优越,换句话说,Spark启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。

Spark架构

Spark 是在Scala语言中实现的,它将Scala用作其应用程序框架。与Hadoop不同,Spark 和 Scala 能够紧密集成,其中的Scala可以像操作本地集合对象一样轻松地操作分布式数据集。

尽管创建 Spark是为了支持分布式数据集上的迭代作业,但是实际上它是对 Hadoop 的补充,可以在 Hadoo 文件系统中并行运行。通过名为Mesos的第三方集群框架可以支持此行为。Spark 由加州大学伯克利分校 AMP 实验室 (Algorithms, Machines, and People Lab) 开发,可用来构建大型的、低延迟的数据分析应用程序。

运行SparkR

  1. library(SparkR) sc <- sparkR.init(master="local"

项目主页http://www.open-open.com/lib/view/home/1390350018742

责任编辑:彭凡 来源: OPEN社区
相关推荐

2014-02-14 15:43:16

ApacheSpark

2016-12-20 09:47:38

Apache SparLambda架构

2014-06-09 14:44:44

Spark

2016-11-15 14:07:28

Apache SparLambdaHadoop

2017-10-10 17:00:11

SparkHadoop数据处理

2018-02-02 15:50:07

决策树Apache Spar数据

2017-04-01 14:01:50

Apache Spar内存管理

2022-06-01 13:52:11

开源大数据

2017-06-26 15:00:17

2017-03-10 16:32:44

Apache Spar大数据工具

2015-12-08 13:48:50

大数据工具R语言Spark

2020-06-28 13:54:22

Apache Spar窗口函数数据

2021-08-09 09:00:00

Kubernetes云计算架构

2020-08-11 07:00:00

大数据IT技术

2013-05-24 10:01:40

R语言

2015-11-02 14:48:05

LinuxR 语言

2023-06-22 19:52:56

R 语言

2018-03-05 17:29:52

SparkApache SparSpark 2.3

2016-11-29 09:27:22

Apache SparDashboard构建

2018-08-09 11:06:39

Apache Spar内存模型
点赞
收藏

51CTO技术栈公众号