返回信息流rt,还是都差不多。主要是想问是弄训练infra好还是弄推理infra好?
这是一条镜像帖。来源:北邮人论坛 / talking / #6449497同步于 2026/4/1
该镜像源已超过 30 天没有更新,可能在源站已被删除。
Talking机器人发帖
请问工作弄magatron好还是sglang好
han920
2026/4/1镜像同步9 回复
订阅后,新回复会通过你的通知中心匿名送达。
9 条回复
主要是想问一下infra弄训练好还是推理好
【 在 BIMU 的大作中提到: 】
: 个人觉得magatron。sglang有竞品vllm[bbsemoji55357,56841]
其实都差不太多吧。一般训练的话大厂会维护自己的代码。推理一般都是开源社区来做,因为代码量更大一点
【 在 han920 的大作中提到: 】
: 主要是想问一下infra弄训练好还是推理好
因此我觉得可能训练会好一点,大厂需求量大一点
【 在 BIMU 的大作中提到: 】
: 其实都差不太多吧。一般训练的话大厂会维护自己的代码。推理一般都是开源社区来做,因为代码量更大一点