Spark 通用的性能配置方法:内存和CPU的配置

  • 时间:
  • 浏览:0
  • 来源:神彩UU直播_彩神UU直播官方

本文主要介绍关于通过配置Spark任务运行时的内存和CPU(Vcore)来提升Spark性能的措施 。通过配置内存和CPU(Vcore)是比较基础、通用的措施 。本文总出 的Demo以X-Pack Spark数据工作台为背景介绍,数据工作台的完整介绍请参考:数据工作台。

提交Spark任务时时要提供如下的参数。

其中下面的参数一定会和此次spark任务执行的性能相关。