spark的standalone模式采用的是(spark集群时配置什么环境变量)

技术Spark中Standalone模式下Spark应用的整个启动过程是怎样的本篇文章为大家展示了Spark中Standalone模式下Spark应用的整个启动过程是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,

本篇文章为大家展示了火花中单独的模式下火花应用的整个启动过程是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

一,Standalone模式下的spark角色

大家都知道在Standalone模式下,spark一共有以下五种角色:

sparksubmit,master,Worker,Driver,Executor。具体这五种角色在我们提交应用的时候起到哪些作用呢,我们下面就来详细讲解

1,SparkSubmit

加载一个火花应用程序的入口。这个类处理设置发动相关依赖的类路径(足见其重要性),同时屏蔽了不同集群管理器和不同部署模式的细节,为用户提供统一接口。

2,Master

主要功能:

a),接受工人的注册并管理工人

b),接受迷你图提交提交的申请,并调度启动驱动程序(发送LaunchDriver给工人).

c),接受驾驶员端AppClient发送的注册应用程序(应用程序描述,自身),然后调度,发送启动执行程序消息给工人。

3,Worker

a),向掌握注册,并维持心跳。

b),接受掌握的LaunchDriver消息,并启动司机。

c),接受掌握的启动执行程序消息,并启动执行者

4,Driver

a),通过AppClient向掌握注册App,此时携带者CoraseGrainedExecutorBackend后端后端信息。

b),接受执行者注册,维护执行者信息。

c),划分舞台,封装任务,并调度任务。

5,Executor

a),向驾驶员注册自己并维护心跳

b),接受驾驶员的启动任务信息,并执行任务。

c),将工作执行结果返回给司机。

二独立的提交一个应用源码过程

1,启动Driver的过程

Org.apache.spark.launcher.Main

组织。阿帕奇。火花。部署。迷你提交

组织。阿帕奇。火花。部署。休息。restsubmissionclient

组织。阿帕奇。火花。部署。休息。standalonerserver

组织。阿帕奇。火花。部署。主人。掌握

组织。阿帕奇。火花。部署。工人。工人

组织。阿帕奇。火花。部署。工人。驱动跑步者

组织。阿帕奇。火花。部署。工人。司机说唱歌手

用户自定义程序~~~

2,启动Executor的过程

org.apache.spark.SparkContext

组织。阿帕奇。火花。调度程序。集群。sparkdeploysschedulerbackand

组织。阿帕奇。火花。部署。客户。appclient

组织。阿帕奇。火花。部署。主人。掌握

组织。阿帕奇。火花。部署。工人。工人

组织。阿帕奇。火花。部署。工人。执行者跑者

组织。阿帕奇。火花。执行者。grossgrainedeexecutorbacknd

组织。阿帕奇。火花。执行者。执行者

3,执行task的过程

组织。阿帕奇。火花。调度程序。集群。粗糙粒度调度rBackend

组织。阿帕奇。火花。执行者。grossgrainedeexecutorbacknd

组织。阿帕奇。火花。执行者。执行者

组织。阿帕奇。火花。执行者。TaskRunner

三,结合具体流程图讲解

Spark中Standalone模式下Spark应用的整个启动过程是怎样的

上述内容就是火花中单独的模式下火花应用的整个启动过程是怎样的,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注行业资讯频道。

内容来源网络,如有侵权,联系删除,本文地址:https://www.230890.com/zhan/149261.html

(0)

相关推荐

  • 用锲而不舍造句,锲而不舍的“而”字是什么意思

    技术用锲而不舍造句,锲而不舍的“而”字是什么意思“而”应为表假设的连词用锲而不舍造句。 这个词来自“锲而舍之,朽木不折,锲而不舍,金石可镂”(《劝学》-荀子); 我们再来看而的用法,“而”在文言文中常用作连词,但连词的关

    生活 2021年10月24日
  • 抖音刷直播人气,抖音直播刷人气详情介绍!

    技术抖音刷直播人气,抖音直播刷人气详情介绍!抖音直播人气购买,抖音直播刷人气软件,抖音直播刷人气,如果在直播间涨粉,前提要做如何做到直播间有人进来
    靠排比例的话数能上1000人在线,一个月稳定卖一百万一直靠砍光的和热量很

    测评 2021年10月21日
  • 嵌入式数据库Sqlite3之如何使用基本的命令操作

    技术嵌入式数据库Sqlite3之如何使用基本的命令操作这篇文章主要介绍“嵌入式数据库Sqlite3之如何使用基本的命令操作”,在日常操作中,相信很多人在嵌入式数据库Sqlite3之如何使用基本的命令操作问题上存在疑惑,小

    攻略 2021年10月22日
  • 数据库tempdb已满(tempdb数据库空间不足)

    技术为什么无法为数据库 tempdb中的对象分配空间本篇文章为大家展示了为什么无法为数据库 tempdb中的对象分配空间,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。错误描述消息

    攻略 2021年12月14日
  • 狗能吃猫粮么,狗常吃猫粮会怎样

    技术狗能吃猫粮么,狗常吃猫粮会怎样狗常吃猫粮是有害处的,长期饲喂猫粮,狗狗会因为无法消化高量的蛋白质而出现胃肠敏感,甚至出现呕吐、腹泻等症状狗能吃猫粮么。随特别是对肝肾功能本来就有问题的狗狗来说,过多的蛋白质更是禁忌。

    生活 2021年10月26日
  • 摔跤技巧,求摔跤的技巧和基本功!!!

    技术摔跤技巧,求摔跤的技巧和基本功!!!即便只是技巧摔跤技巧,也需要花时间磨练,巧劲不是那么容易掌握的。说两个基本功吧:拉皮带,转缸。 选一条自行车内胎,一劈为二,选一条,两手各握其中一端。进行一手向前一手向后的对拉训练

    生活 2021年10月28日