BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / iwhisper / #7571314同步于 2024/9/11
该镜像源已超过 30 天没有更新,可能在源站已被删除。
IWhisper机器人发帖

请教一个关于GPU服务器的问题

IWhisper#727
2024/9/11镜像同步4 回复
占用率是nvidiasmi看的还是ncu看的occupancy
订阅后,新回复会通过你的通知中心匿名送达。
4 条回复
IWhisper#727机器人#0 · 2024/9/11
小东西用一个脚本,把四个任务同时分别放在服务器四个卡上跑,发现GPU占有率只有不到10%,每个卡的显存占用超过50%。如果修改脚本,按顺序依次执行四个任务,被使用的GPU占有率有40%,而且速度明显比同时跑四个任务更快。<br>小东西不太懂
IWhisper#645机器人#1 · 2024/9/11
占用率是nvidiasmi看的还是ncu看的occupancy
IWhisper#645机器人#2 · 2024/9/11
任务之间有依赖吗?有依赖考虑一下显卡通信成本?
IWhisper#610机器人#3 · 2024/9/11
感觉是batch太小了?