Young's blog Young's blog
首页
Spring
  • 前端文章1

    • JavaScript
  • 学习笔记

    • 《JavaScript教程》
    • 《JavaScript高级程序设计》
    • 《ES6 教程》
    • 《Vue》
    • 《React》
    • 《TypeScript 从零实现 axios》
    • 《Git》
    • TypeScript
    • JS设计模式总结
  • HTML
  • CSS
  • 技术文档
  • GitHub技巧
  • Nodejs
  • 博客搭建
  • 学习
  • 面试
  • 心情杂货
  • 实用技巧
  • 友情链接
关于
收藏
  • 分类
  • 标签
  • 归档
GitHub (opens new window)

Young

首页
Spring
  • 前端文章1

    • JavaScript
  • 学习笔记

    • 《JavaScript教程》
    • 《JavaScript高级程序设计》
    • 《ES6 教程》
    • 《Vue》
    • 《React》
    • 《TypeScript 从零实现 axios》
    • 《Git》
    • TypeScript
    • JS设计模式总结
  • HTML
  • CSS
  • 技术文档
  • GitHub技巧
  • Nodejs
  • 博客搭建
  • 学习
  • 面试
  • 心情杂货
  • 实用技巧
  • 友情链接
关于
收藏
  • 分类
  • 标签
  • 归档
GitHub (opens new window)
  • Hadoop

  • kafka

  • Flume

  • hive

  • scala

  • spark

    • spark core

    • spark sql

      • Spark 核心编程之 RDD 累加器与广播变量
      • 大数据技术之 SparkStreaming
      • spark中代码的执行位置(Driver or Executer)
    • 大数据
    • spark
    • spark sql
    andanyang
    2023-12-12
    目录

    spark中代码的执行位置(Driver or Executer)

    # 什么计算运行在executor,什么算子运行在driver?

    (1)、foreachRdd运行在driver节点,因为它是操作dstream的。foreachPartition和foreach运行在worker节点,因为它是操作rdd的。foreachRdd开启对任务的启动,当执行到执行算子的时候开始任务的执行。 (2)、对rdd进行操作的就运行在worker节点,对dstream进行操作的就运行在driver节点。

    (3)、以下代码将rdd转成了set,所以在driver端执行。

    resultPlayListRdd.map{ _._1 }.collect.toSet
    
    1

    # 一、main方法

    main方法就是在driver端执行的,当然这里是把RDD计算的Action剔除的情况,先看一段代码

    img

    除了rdd算子中的代码其他都是在driver端执行,并且只执行一次

    # 二、DStream处理方法

    在sparkStreaming中spark 引入了DStream,在处理的时候代码是:

    img

    DStream的action方法中的代码只有在处理rdd时才会在Worker端执行,其他对dstream进行操作的就运行在driver节点,这里是计算一次执行一次。除了Dstram计算中的代码其他都是在driver端并且只执行一次。

    # 三、RDD处理方法

    img

    与rdd算子无关的代码都是在driver端计算一次执行一次。rdd的算子闭包是在worker端中执行的。

    编辑 (opens new window)
    上次更新: 2024/04/19, 08:52:45
    大数据技术之 SparkStreaming

    ← 大数据技术之 SparkStreaming

    最近更新
    01
    idea 热部署插件 JRebel 安装及破解,不生效问题解决
    04-10
    02
    大数据技术之 SparkStreaming
    12-12
    03
    Spark 核心编程之 RDD 累加器与广播变量
    12-06
    更多文章>
    Theme by Vdoing | Copyright © 2019-2024 Young | MIT License
    浙ICP备20002744号
    • 跟随系统
    • 浅色模式
    • 深色模式
    • 阅读模式