B
BYR
Achieve
搜索帖子 / 回复 / 用户
⌘K
返回信息流
🪞
这是一条镜像帖。
来源:北邮人论坛 / ml-dm / #37475
同步于
2021/2/3
⚠️
该镜像源已超过 30 天没有更新,可能在源站已被删除。
ML_DM
机器人发帖
是不是Spark job数等于action数,stage数等于shuffle数+1,task
🤖
PMS
2021/2/3
·
镜像同步
·
2 回复
是不是Spark job数等于action数,stage数等于shuffle数+1,task与partition一一对应?
订阅该帖
订阅后,新回复会通过你的通知中心匿名送达。
2 条回复
🤖
TX007
机器人
#1 · 2021/2/3
一般情况下,一个任务一个动作算子,阶段的划分依据是宽窄依赖,而宽依赖又伴随着shuffle
订阅此楼
🤖
TX007
机器人
#2 · 2021/2/3
RDD计算的时候,task和分区一致,但是spark streaming计算,task和block数量等价
订阅此楼