网创优客建站品牌官网
为成都网站建设公司企业提供高品质网站建设
热线:028-86922220
成都专业网站建设公司

定制建站费用3500元

符合中小企业对网站设计、功能常规化式的企业展示型网站建设

成都品牌网站建设

品牌网站建设费用6000元

本套餐主要针对企业品牌型网站、中高端设计、前端互动体验...

成都商城网站建设

商城网站建设费用8000元

商城网站建设因基本功能的需求不同费用上面也有很大的差别...

成都微信网站建设

手机微信网站建站3000元

手机微信网站开发、微信官网、微信商城网站...

建站知识

当前位置:首页 > 建站知识

Spark中Standalone模式下Spark应用的整个启动过程是怎样的

本篇文章为大家展示了Spark中Standalone模式下Spark应用的整个启动过程是怎样的,内容简明扼要并且容易理解,绝对能使你眼前一亮,通过这篇文章的详细介绍希望你能有所收获。

创新互联建站服务项目包括桐城网站建设、桐城网站制作、桐城网页制作以及桐城网络营销策划等。多年来,我们专注于互联网行业,利用自身积累的技术优势、行业经验、深度合作伙伴关系等,向广大中小型企业、政府机构等提供互联网行业的解决方案,桐城网站推广取得了明显的社会效益与经济效益。目前,我们服务的客户以成都为中心已经辐射到桐城省份的部分城市,未来相信会继续扩大服务区域并继续获得客户的支持与信任!

一,Standalone模式下的spark角色

  大家都知道在Standalone模式下,spark一共有以下五种角色:

sparksubmit,master,Worker,Driver,Executor。具体这五种角色在我们提交应用的时候起到哪些作用呢,我们下面就来详细讲解

1,SparkSubmit

加载一个Spark应用程序的入口。这个类处理设置spark相关依赖的Classpath(足见其重要性),同时屏蔽了不同集群管理器和不同部署模式的细节,为用户提供统一接口。

2,Master

主要功能:

A),接受worker的注册并管理Worker

B),接受SparkSubmit提交的Application,并调度启动Driver(发送LaunchDriver给Worker)。

C),接受Driver端AppClient发送的RegisterApplication(appDescription,self),然后调度,发送LaunchExecutor消息给Worker。

3,Worker

A),向Master注册,并维持心跳。

B),接受Master的LaunchDriver消息,并启动Driver。

C),接受Master的LaunchExecutor消息,并启动Executor

4,Driver

A),通过AppClient向Master注册App,此时携带者CoraseGrainedExecutorBackend信息。

B),接受Executor注册,维护Executor信息。

C),划分Stage,封装task,并调度task。

5,Executor

A),向Driver注册自己并维护心跳

B),接受Driver的LaunchTask信息,并执行task。

C),将task执行结果返回给Driver。

二,Standalone提交一个应用源码过程

1,启动Driver的过程

Org.apache.spark.launcher.Main

org.apache.spark.deploy.SparkSubmit

org.apache.spark.deploy.rest.RestSubmissionClient

Org.apache.spark.deploy.rest.StandaloneRestServer

org.apache.spark.deploy.master.Master

Org.apache.spark.deploy.worker.Worker

Org.apache.spark.deploy.worker.DriverRunner

org.apache.spark.deploy.worker.DriverWrapper

用户自定义程序 ~~~

 2,启动Executor的过程

org.apache.spark.SparkContext

Org.apache.spark.scheduler.cluster.SparkDeploySchedulerBackend

Org.apache.spark.deploy.client.AppClient

org.apache.spark.deploy.master.Master

Org.apache.spark.deploy.worker.Worker

Org.apache.spark.deploy.worker.ExecutorRunner

org.apache.spark.executor.CoarseGrainedExecutorBackend

org.apache.spark.executor.Executor

 3,执行task的过程

org.apache.spark.scheduler.cluster.CoarseGrainedSchedulerBackend

org.apache.spark.executor.CoarseGrainedExecutorBackend

org.apache.spark.executor.Executor

org.apache.spark.executor.TaskRunner

三,结合具体流程图讲解

Spark中Standalone模式下Spark应用的整个启动过程是怎样的

上述内容就是Spark中Standalone模式下Spark应用的整个启动过程是怎样的,你们学到知识或技能了吗?如果还想学到更多技能或者丰富自己的知识储备,欢迎关注创新互联行业资讯频道。


当前名称:Spark中Standalone模式下Spark应用的整个启动过程是怎样的
分享地址:http://bjjierui.cn/article/pjjich.html

其他资讯