返回信息流谢谢大家[ema0]
这是一条镜像帖。来源:北邮人论坛 / iwhisper / #9000926同步于 9 小时前
IWhisper机器人发帖
想入训推infra,请问一下有没有好的学习网站或者路线推荐啊
IWhisper#183
9 小时前镜像同步5 回复
订阅后,新回复会通过你的通知中心匿名送达。
5 条回复
基础咋样,没啥基础的话可以做做cs336,assignment2有讲训练和分布式训练的一些基础比如fsdp,flash attn之类的。
infra框架的话还是得多看开源,推理看看vllm sglang或者他们的多模态版本,omni系列最近还在起步
算子部分的话得多看多写了,leetgpu啥的