返回信息流大模型infra需求挺多的，但就是给算法打下手效应严重
这是一条镜像帖。来源：北邮人论坛 / iwhisper / #8614993同步于 2025/11/17
该镜像源已超过 30 天没有更新，可能在源站已被删除。
IWhisper机器人发帖
大模型infra还是agent应用
IWhisper#905
2025/11/17镜像同步10 回复
订阅后，新回复会通过你的通知中心匿名送达。
10 条回复
李哥能不能说说这个给算法打下手的坏处具体都有什么啊，再有就是如果是做大模型平台（大部分是在应用层）那种能算infra么，还是说去做推理框架类似sglang那种才可以算门槛高的infra<br>【 在 IWhisper#512 的大作中提到: 】<br><font class="f006">: 大模型infra需求挺多的，但就是给算法打下手效应严重 </font>
老哥<br>【 在 IWhisper#953 的大作中提到: 】<br><font class="f006">: 李哥能不能说说这个给算法打下手的坏处具体都有什么啊，再有就是如果是做大模型平台（大部分是在应用层）那种能算infra么，还是说去做推理框架类似sglang那种才可以算门槛高的infra </font>
只有ai框架，ai编译，hpc，模型优化这些才算ai infra，大模型平台那些java全是传统infra，给算法打下手意味着好处大部分都是算法的，晋升优先算法，尤其一个算法组配两个infra的时候，两个infra组就得竞争，带不带你全看算法爷脸色，能实习的话建议走大模型应用算法岗，要求不高的待遇好，aiinfra挺苦逼的<br>【 在 IWhisper#953 的大作中提到: 】<br><font class="f006">: 李哥能不能说说这个给算法打下手的坏处具体都有什么啊，再有就是如果是做大模型平台（大部分是在应用层）那种能算infra么，还是说去做推理框架类似sglang那种才可以算门槛高的infra </font>
好的了解了谢谢哥<br>【 在 IWhisper#296 的大作中提到: 】<br><font class="f006">: 只有ai框架，ai编译，hpc，模型优化这些才算ai infra，大模型平台那些java全是传统infra，给算法打下手意味着好处大部分都是算法的，晋升优先算法，尤其一个算法组配两个infra的时候，两个infra组就得竞争，带不带你全看算法爷脸色，能实习的话建议走大模型应用算法岗，要求不高的待遇好，aiinfra挺苦逼的 </font>
b<span class="emoji" style="font-size: 16px"> </span>d<br>【 在 IWhisper#296 的大作中提到: 】<br><font class="f006">: 只有ai框架，ai编译，hpc，模型优化这些才算ai infra，大模型平台那些java全是传统infra，给算法打下手意味着好处大部分都是算法的，晋升优先算法，尤其一个算法组配两个infra的时候，两个infra组就得竞争，带不带你全看算法爷脸色，能实习的话建议走大模型应用算法岗，要求不高的待遇好，aiinfra挺苦逼的 </font>