• 首页 首页 icon
  • 工具库 工具库 icon
    • IP查询 IP查询 icon
  • 内容库 内容库 icon
    • 快讯库 快讯库 icon
    • 精品库 精品库 icon
    • 问答库 问答库 icon
  • 更多 更多 icon
    • 服务条款 服务条款 icon

Flink 任务链 共享组

武飞扬头像
沙里世界
帮助1

Operator Chains (任务链)

划分为同一个任务链的3个要素:

  1. one to one 的操作
  2. 并行度相同
  3. 同一个共享组
    默认情况(只有一个共享组)下需要的slot数量=最大的并行度
    当前任务需要的总的slot=每个共享组中最大并行度的和

全局禁用任务链:
env.disableOperatorChaining()

任务链 共享组总结

任务链以及共享组

 1.默认情况下:
     所有算子都是同一个共享组,开启了任务链合并
     任务所需的slot数量:最大并行度
     任务链的个数:
         宽依赖 、并行度
2.给算子独立设置了共享组:
    开启了任务链的合并
     任务所需的Slot数量:每个共享组中最大的并行度的和     
     任务链的个数:
         宽依赖 、并行度 、共享组
3.全局设置禁用任务链
    同一个共享组
    任务所需的slot数量:最大并行度        
    任务链的个数:
        算子的个数
4.给某个算子开启新的任务链
     同一个共享组
    任务所需的slot数量:最大并行度        
    任务链的个数:
        宽依赖、并行度、开启的新的任务链
 5.给某个算子禁用任务链
     同一个共享组
    任务所需的slot数量:最大并行度        
    任务链的个数:
        宽依赖、并行度、禁用任务链的算子
学新通

总结:

Slot数量 只跟 共享组最大并行度 有关
任务链的个数宽依赖并行度共享组是否禁用或者开启新的任务链 有关

这篇好文章是转载于:学新通技术网

  • 版权申明: 本站部分内容来自互联网,仅供学习及演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,请提供相关证据及您的身份证明,我们将在收到邮件后48小时内删除。
  • 本站站名: 学新通技术网
  • 本文地址: /boutique/detail/tanhiafjhj
系列文章
更多 icon
同类精品
更多 icon
继续加载