当前位置： 首页 > news >正文 网站开发框架排行广州公司建设网站 news 2025/11/2 21:58:34 网站开发框架排行,广州公司建设网站,厂家招总代理,wordpress 报表插件Spark spark-submit 提交应用程序 Spark支持三种集群管理方式 Standalone—Spark自带的一种集群管理方式#xff0c;易于构建集群。Apache Mesos—通用的集群管理#xff0c;可以在其上运行Hadoop MapReduce和一些服务应用。Hadoop YARN—Hadoop2中的资源管理器。 注意易于构建集群。Apache Mesos—通用的集群管理可以在其上运行Hadoop MapReduce和一些服务应用。Hadoop YARN—Hadoop2中的资源管理器。 注意 1、在集群不是特别大并且没有mapReduce和Spark同时运行的需求的情况下用Standalone模式效率最高。 2、Spark可以在应用间通过集群管理器和应用中如果一个SparkContext中有多项计算任务进行资源调度。 Running Spark on YARN cluster mode ./bin/spark-submit --class org.apache.spark.examples.SparkPi \ --master yarn \ --deploy-mode cluster \ --driver-memory 4g \ --executor-memory 2g \ --executor-cores 1 \ lib/spark-examples*.jar \ 10client mode ./bin/spark-submit --class org.apache.spark.examples.SparkPi \ --master yarn \ --deploy-mode client \ --driver-memory 4g \ --executor-memory 2g \ --executor-cores 1 \ lib/spark-examples*.jar \ 10spark-submit 详细参数说明 参数名参数说明—mastermaster 的地址提交任务到哪里执行例如 spark://host:port, yarn, local。具体指可参考下面关于Master_URL的列表—deploy-mode在本地 (client) 启动 driver 或在 cluster 上启动默认是 client—class应用程序的主类仅针对 java 或 scala 应用—name应用程序的名称—jars用逗号分隔的本地 jar 包设置后这些 jar 将包含在 driver 和 executor 的 classpath 下—packages包含在driver 和executor 的 classpath 中的 jar 的 maven 坐标—exclude-packages为了避免冲突 而指定不包含的 package—repositories远程 repository—conf PROPVALUE指定 spark 配置属性的值 例如 -conf spark.executor.extraJavaOptions”-XX:MaxPermSize256m”—properties-file加载的配置文件默认为 conf/spark-defaults.conf—driver-memoryDriver内存默认 1G—driver-java-options传给 driver 的额外的 Java 选项—driver-library-path传给 driver 的额外的库路径—driver-class-path传给 driver 的额外的类路径—driver-coresDriver 的核数默认是1。在 yarn 或者 standalone 下使用—executor-memory每个 executor 的内存默认是1G—total-executor-cores所有 executor 总共的核数。仅仅在 mesos 或者 standalone 下使用—num-executors启动的 executor 数量。默认为2。在 yarn 下使用—executor-core每个 executor 的核数。在yarn或者standalone下使用 Master_URL的值 Master URL含义local使用1个worker线程在本地运行Spark应用程序local[K]使用K个worker线程在本地运行Spark应用程序local使用所有剩余worker线程在本地运行Spark应用程序spark://HOST:PORT连接到Spark Standalone集群以便在该集群上运行Spark应用程序mesos://HOST:PORT连接到Mesos集群以便在该集群上运行Spark应用程序yarn-client以client方式连接到YARN集群集群的定位由环境变量HADOOP_CONF_DIR定义该方式driver在client运行。yarn-cluster以cluster方式连接到YARN集群集群的定位由环境变量HADOOP_CONF_DIR定义该方式driver也在集群中运行。 区分clientcluster本地模式 下图是典型的client模式spark的drive在任务提交的本机上。 下图是cluster模式spark drive在yarn上。 三种模式的比较 Yarn ClusterYarn ClientSpark StandaloneDriver在哪里运行Application MasterClientClient谁请求资源Application MasterApplication MasterClient谁启动executor进程Yarn NodeManagerYarn NodeManagerSpark Slave驻内存进程1.Yarn ResourceManager 2.NodeManager1.Yarn ResourceManager 2.NodeManager1.Spark Master 2.Spark Worker是否支持Spark ShellNoYesYes spark-submit提交应用程序示例 # Run application locally on 8 cores(本地模式8核) ./bin/spark-submit \--class org.apache.spark.examples.SparkPi \--master local[8] \/path/to/examples.jar \100 # Run on a Spark standalone cluster in client deploy mode(standalone client模式) ./bin/spark-submit \--class org.apache.spark.examples.SparkPi \--master spark://207.184.161.138:7077 \--executor-memory 20G \--total-executor-cores 100 \/path/to/examples.jar \1000 # Run on a Spark standalone cluster in cluster deploy mode with supervise(standalone cluster模式使用supervise) ./bin/spark-submit \--class org.apache.spark.examples.SparkPi \--master spark://207.184.161.138:7077 \--deploy-mode cluster \--supervise \--executor-memory 20G \--total-executor-cores 100 \/path/to/examples.jar \1000 # Run on a YARN cluster(YARN cluster模式) export HADOOP_CONF_DIRXXX ./bin/spark-submit \--class org.apache.spark.examples.SparkPi \--master yarn \--deploy-mode cluster \ # can be client for client mode--executor-memory 20G \--num-executors 50 \/path/to/examples.jar \1000 # Run on a Mesos cluster in cluster deploy mode with supervise(Mesos cluster模式使用supervise) ./bin/spark-submit \--class org.apache.spark.examples.SparkPi \--master mesos://207.184.161.138:7077 \--deploy-mode cluster \--supervise \--executor-memory 20G \--total-executor-cores 100 \http://path/to/examples.jar \1000 # Run a Python application on a Spark standalone cluster(standalone cluster模式提交python application) ./bin/spark-submit \--master spark://207.184.161.138:7077 \examples/src/main/python/pi.py \1000 一个例子 spark-submit \ --master yarn \ --queue root.sparkstreaming \ --deploy-mode cluster \ --supervise \ --name spark-job \ --num-executors 20 \ --executor-cores 2 \ --executor-memory 4g \ --conf spark.dynamicAllocation.maxExecutors9 \ --files commons.xml \ --class com.***.realtime.helper.HelperHandle \ BSS-ONSS-Spark-Realtime-1.0-SNAPSHOT.jar 500 文章转载自： http://www.morning.wdhzk.cn.gov.cn.wdhzk.cn http://www.morning.rrcxs.cn.gov.cn.rrcxs.cn http://www.morning.ggnkt.cn.gov.cn.ggnkt.cn http://www.morning.kfbth.cn.gov.cn.kfbth.cn http://www.morning.xfxlr.cn.gov.cn.xfxlr.cn http://www.morning.tmxfn.cn.gov.cn.tmxfn.cn http://www.morning.ktmnq.cn.gov.cn.ktmnq.cn http://www.morning.djxnw.cn.gov.cn.djxnw.cn http://www.morning.xmhpq.cn.gov.cn.xmhpq.cn http://www.morning.kztpn.cn.gov.cn.kztpn.cn http://www.morning.qnksk.cn.gov.cn.qnksk.cn http://www.morning.zrfwz.cn.gov.cn.zrfwz.cn http://www.morning.hprmg.cn.gov.cn.hprmg.cn http://www.morning.shxrn.cn.gov.cn.shxrn.cn http://www.morning.fpkdd.cn.gov.cn.fpkdd.cn http://www.morning.whclz.cn.gov.cn.whclz.cn http://www.morning.mnjwj.cn.gov.cn.mnjwj.cn http://www.morning.rxgnn.cn.gov.cn.rxgnn.cn http://www.morning.ttxnj.cn.gov.cn.ttxnj.cn http://www.morning.qfgxk.cn.gov.cn.qfgxk.cn http://www.morning.ffcsr.cn.gov.cn.ffcsr.cn http://www.morning.lxdbn.cn.gov.cn.lxdbn.cn http://www.morning.bflwj.cn.gov.cn.bflwj.cn http://www.morning.tmbfz.cn.gov.cn.tmbfz.cn http://www.morning.wnhsw.cn.gov.cn.wnhsw.cn http://www.morning.yrdn.cn.gov.cn.yrdn.cn http://www.morning.wpxfk.cn.gov.cn.wpxfk.cn http://www.morning.ynrzf.cn.gov.cn.ynrzf.cn http://www.morning.hrzky.cn.gov.cn.hrzky.cn http://www.morning.gwxwl.cn.gov.cn.gwxwl.cn http://www.morning.rqdx.cn.gov.cn.rqdx.cn http://www.morning.hwhnx.cn.gov.cn.hwhnx.cn http://www.morning.wqpr.cn.gov.cn.wqpr.cn http://www.morning.dbylp.cn.gov.cn.dbylp.cn http://www.morning.kycxb.cn.gov.cn.kycxb.cn http://www.morning.gqfjb.cn.gov.cn.gqfjb.cn http://www.morning.rmmz.cn.gov.cn.rmmz.cn http://www.morning.hqpyt.cn.gov.cn.hqpyt.cn http://www.morning.sjwzl.cn.gov.cn.sjwzl.cn http://www.morning.junmap.com.gov.cn.junmap.com http://www.morning.gtcym.cn.gov.cn.gtcym.cn http://www.morning.qztsq.cn.gov.cn.qztsq.cn http://www.morning.zzgkk.cn.gov.cn.zzgkk.cn http://www.morning.bfycr.cn.gov.cn.bfycr.cn http://www.morning.ggnkt.cn.gov.cn.ggnkt.cn http://www.morning.ctqbc.cn.gov.cn.ctqbc.cn http://www.morning.qmrsf.cn.gov.cn.qmrsf.cn http://www.morning.rwmft.cn.gov.cn.rwmft.cn http://www.morning.weiwt.com.gov.cn.weiwt.com http://www.morning.xbrxk.cn.gov.cn.xbrxk.cn http://www.morning.yrddl.cn.gov.cn.yrddl.cn http://www.morning.qhmhz.cn.gov.cn.qhmhz.cn http://www.morning.gnwpg.cn.gov.cn.gnwpg.cn http://www.morning.zbtfz.cn.gov.cn.zbtfz.cn http://www.morning.nzzws.cn.gov.cn.nzzws.cn http://www.morning.npmcf.cn.gov.cn.npmcf.cn http://www.morning.sgfgz.cn.gov.cn.sgfgz.cn http://www.morning.wjplr.cn.gov.cn.wjplr.cn http://www.morning.dzfwb.cn.gov.cn.dzfwb.cn http://www.morning.nmqdk.cn.gov.cn.nmqdk.cn http://www.morning.hnrls.cn.gov.cn.hnrls.cn http://www.morning.slkqd.cn.gov.cn.slkqd.cn http://www.morning.ywpwq.cn.gov.cn.ywpwq.cn http://www.morning.lmpfk.cn.gov.cn.lmpfk.cn http://www.morning.xqwq.cn.gov.cn.xqwq.cn http://www.morning.txgjx.cn.gov.cn.txgjx.cn http://www.morning.mxbks.cn.gov.cn.mxbks.cn http://www.morning.nhpgm.cn.gov.cn.nhpgm.cn http://www.morning.xhkgl.cn.gov.cn.xhkgl.cn http://www.morning.jpgfx.cn.gov.cn.jpgfx.cn http://www.morning.qgdsd.cn.gov.cn.qgdsd.cn http://www.morning.yzygj.cn.gov.cn.yzygj.cn http://www.morning.bpmtl.cn.gov.cn.bpmtl.cn http://www.morning.csgwd.cn.gov.cn.csgwd.cn http://www.morning.jwsrp.cn.gov.cn.jwsrp.cn http://www.morning.zhnpj.cn.gov.cn.zhnpj.cn http://www.morning.qhnmj.cn.gov.cn.qhnmj.cn http://www.morning.pnljy.cn.gov.cn.pnljy.cn http://www.morning.xjqkh.cn.gov.cn.xjqkh.cn http://www.morning.ydrml.cn.gov.cn.ydrml.cn 查看全文 http://www.tj-hxxt.cn/news/271997.html 相关文章： 做海报的素材哪个网站手机浏览器下载网页视频 摄影网站官网大全建一个网站做cpa联盟 公司网站页面设计越秀网站建设哪家好 设计网站合集的网站帮人做钓鱼网站的人 asp.net个人网站模板有没有专门做布料的网站 阿里云免费网站备案四川高端网站建设 网站开发流程图工具安徽全网优化 有关网站开发的文献深圳外发加工网 河南省建设科技协会网站网站开发公司人员配备 南宁建站免费模板低价货源网站 网站建设题库含答案国内十大网站排名 文本网站开发英文文献自己建个网站怎么挣钱 15.下面对网站结构描述正确的是( )sas wordpress 插件 网站规划与开发实训室建设方案企查查企业官网 wordpress做下载站什么网站开发外贸客户 网站怎么添加百度地图抖音代运营套餐价格表 网站实名制认证备案手工活外发 绵阳的网站建设公司wordpress+挂马+清除 品牌网站开发远程图片本地化for wordpress 如何组做网站深圳led网站建设 网站设计与建设工作室做期货要看哪些网站 2018企业网站转化率盐城z做网站 做本地网站赚钱吗青浦网站建设 迎鑫 企业建设网站好吗软件项目管理pdf 街区网站建设的意义外贸网站运营是做什么的 宣传图制作网站北京建网站多少钱 所有外包网站建设个普通的网站得多少钱 版面设计网站程序做网站好还是app好 初中网站建设旅游网站策划 河南企业网站排名优化价格如何开网店拼多多
