认识达内从这里开始

认真做教育专心促就业

Apache Spark Jobs 性能调优

发布：济南达内
来源：济南达内
时间：2017-10-18 15:23

当你开始编写 Apache Spark 代码或者浏览公开的 API 的时候,你会遇到各种各样术语,比如transformation,action,RDD 等等. 济南达内培训课程体系设计符合企业用人细则. 与阿里、百度、 Adobe 、红帽、微软等签订合作协议,共同制定行业培训细则,所学课程受国际厂商认可.

    了解到这些是编写 Spark 代码的基础. 同样,当你任务开始失败或者你需要透过web界面去了解自己的应用为何如此费时的时候,你需要去了解一些新的名词: job, stage, task.对于这些新术语的理解有助于编写良好 Spark 代码.这里的良好主要指更快的 Spark 程序.对于 Spark 底层的执行模型的了解对于写出效率更高的 Spark 程序非常有帮助.

    Spark 是如何执行程序的

    一个 Spark 应用包括一个 driver 进程和若干个分布在集群的各个节点上的 executor 进程.

    driver 主要负责调度一些高层次的任务流(flow of work).exectuor 负责执行这些任务,这些任务以 task 的形式存在, 同时存储用户设置需要caching的数据. task 和所有的 executor 的生命周期为整个程序的运行过程(如果使用了dynamic resource allocation 时可能不是这样的).如何调度这些进程是通过集群管理应用完成的(比如YARN,Mesos,Spark Standalone),但是任何一个 Spark 程序都会包含一个 driver 和多个 executor 进程.

    在执行层次结构的最上方是一系列 Job.调用一个Spark内部的 action 会产生一个 Spark job 来完成它. 为了确定这些job实际的内容,Spark 检查 RDD 的DAG再计算出执行 plan .这个 plan 以最远端的 RDD 为起点(最远端指的是对外没有依赖的 RDD 或者数据已经缓存下来的 RDD),产生结果 RDD 的 action 为结束 .

    济南达内培训课程体系设计符合企业用人细则. 与阿里、百度、 Adobe 、红帽、微软等签订合作协议,共同制定行业培训细则,所学课程受国际厂商认可.

    执行的 plan 由一系列 stage 组成,stage 是 job 的 transformation 的组合,stage 对应于一系列 task, task 指的对于不同的数据集执行的相同代码.每个 stage 包含不需要 shuffle 数据的 transformation 的序列.

    什么决定数据是否需要 shuffle ?RDD 包含固定数目的 partition, 每个 partiton 包含若干的 record.对于那些通过narrow tansformation(比如 map 和 filter)返回的 RDD,一个 partition 中的 record 只需要从父 RDD 对应的partition 中的 record 计算得到.每个对象只依赖于父 RDD 的一个对象.有些操作(比如 coalesce)可能导致一个 task处理多个输入 partition ,但是这种 transformation 仍然被认为是 narrow 的,因为用于计算的多个输入 record 始终是来自有限个数的 partition.

    然而 Spark 也支持需要 wide 依赖的 transformation,比如 groupByKey,reduceByKey.在这种依赖中,计算得到一个 partition 中的数据需要从父 RDD 中的多个 partition 中读取数据.所有拥有相同 key 的元组最终会被聚合到同一个partition 中,被同一个 stage 处理.为了完成这种操作, Spark需要对数据进行 shuffle,意味着数据需要在集群内传递,最终生成由新的 partition 集合组成的新的 stage.

济南达内培训课程体系设计符合企业用人细则. 与阿里、百度、 Adobe 、红帽、微软等签订合作协议,共同制定行业培训细则,所学课程受国际厂商认可.

济南达内