Spark是什么

本文主要介绍"Spark是什么",希望能够解决您遇到有关问题,下面我们一起来看这篇 "Spark是什么" 文章。

一、到底什么是Spark?

Spark是什么

Spark是一个通用的大数据计算平台,基于“One Stack to rule them all”的理念成功成为了一体化多元化的大数据处理平台,轻松应对大数据处理中的实时流计算、SQL交互式查询、机器学习和图计算等:

Spark是什么

Spark源于BDAS:

Spark是什么

基于该技术堆栈,Spark目前已经成为大数据通用计算平台:

Spark是什么

二, Spark的速度为何如此之快?

首先我们看一下Hadoop经典的处理过程:

Spark是什么

MapReduce在每次执行的时候都要从磁盘读数据,计算完毕后都要把数据存放到磁盘上:

Spark是什么

而Spark是基于内存的:

Spark是什么

另外一方面,DAG也是Spark快的极为重要的原因,下面是一张DAG图的示例:

Spark是什么

大家也可以看一下网络上一张描述DAG更多细节的图片:

Spark是什么

基于DAG,Spark具备了非常精致的作业调度系统:

Spark是什么

DAG中的依赖有宽依赖和窄依赖之分:

Spark是什么

在DAG图中可以根据依赖对pipeline等优化操作:

Spark是什么

基于RDD和DAG,并行计算整个Job:

Spark是什么

关于 "Spark是什么" 就介绍到这。希望大家多多支持 编程宝库。

下一节:怎么批量设置shp文件编码程序下载

编程技术 和 程序设计

如何批量设置shp文件编码程序下载:本文主要介绍"怎么批量设置shp文件编码程序下载",希望能够解决您遇到有关问题,下面我们一起来看这篇 "怎么批量设置shp文件编码程序下载" 文章。针对前边分享的给shp文件添加cpg编码文件,参见文章, ...