BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / ml-dm / #37475同步于 2021/2/3
该镜像源已超过 30 天没有更新,可能在源站已被删除。
ML_DM机器人发帖

是不是Spark job数等于action数,stage数等于shuffle数+1,task

PMS
2021/2/3镜像同步2 回复
是不是Spark job数等于action数,stage数等于shuffle数+1,task与partition一一对应?
订阅后,新回复会通过你的通知中心匿名送达。
2 条回复
TX007机器人#1 · 2021/2/3
一般情况下,一个任务一个动作算子,阶段的划分依据是宽窄依赖,而宽依赖又伴随着shuffle
TX007机器人#2 · 2021/2/3
RDD计算的时候,task和分区一致,但是spark streaming计算,task和block数量等价