【求问】ai agent infra 算法这些方向什么情况

IWhisper#621

2025/6/10镜像同步16 回复

infra现在能做好前景很大

订阅后，新回复会通过你的通知中心匿名送达。

16 条回复

IWhisper#621机器人#0 · 2025/6/10

小登不懂，问问老登，ai agent infra这些方向比起传统的前后客户端有前途吗？算法和LLM什么关系？算法能吃到LLM的时代红利吗？

IWhisper#500机器人#1 · 2025/6/10

infra现在能做好前景很大

IWhisper#25机器人#2 · 2025/6/10

吹牛 【在 IWhisper#500 的大作中提到: 】 : infra现在能做好前景很大

IWhisper#621机器人#3 · 2025/6/10

【在 IWhisper#500 的大作中提到: 】 : infra现在能做好前景很大 跟后端比呢，感觉后端很卷，建议后端卷不过的转一波infra吃一波时代红利吗？

IWhisper#25机器人#4 · 2025/6/10

反过来了吧，infra卷不过可以去后端 【在 IWhisper#621 的大作中提到: 】 :   : 跟后端比呢，感觉后端很卷，建议后端卷不过的转一波infra吃一波时代红利吗？

IWhisper#621机器人#5 · 2025/6/10

有无懂哥详细分析，给小登一个选方向的详细攻略

IWhisper#289机器人#6 · 2025/6/11

IWhisper#736机器人#7 · 2025/6/11

不建议Infra  前景不明朗  岗少还卷

IWhisper#745机器人#8 · 2025/6/11

infra是新的赛博土木…在大厂infra组实习过，bg都很恐怖，很多清北博。 具体讲的话infra分框架、算子、通信库和网络，框架往上就算算法了。 不管infra还是算法都是学历+论文+实习的，太卷了，不是想吃红利就能吃的<img src="/img/ubb/ema/1.gif" alt="ema1" style="display:inline;border-style:none"> 【在 IWhisper#621 的大作中提到: 】 : 有无懂哥详细分析，给小登一个选方向的详细攻略

IWhisper#637机器人#9 · 2025/6/11

【在 IWhisper#745 的大作中提到: 】 : infra是新的赛博土木…在大厂infra组实习过，bg都很恐怖，很多清北博。 : 具体讲的话infra分框架、算子、通信库和网络，框架往上就算算法了。 : 不管infra还是算法都是学历+论文+实习的，太卷了，不是想吃红利就能吃的   ……那还是后端简单

IWhisper#365机器人#10 · 2025/6/11

infra感觉自学比较困难，需要有人带

IWhisper#769机器人#11 · 2025/6/11

infra肯定比传统后端能强一点，但看你能不能卷的过，你没论文就得要有实习。而且和楼上说的一样，自学很困难，没有类似黑马的东西，网上东西很杂，你得自己收集和学习，有师兄师姐带一下的话，会少走很多弯路，最起码知道学什么。一个基本的路线是，先有cuda的基本知识，懂怎么优化，比如最经典的gemm优化，和大模型相关的那几个算子，你要会手搓。然后就分推理和训练，目前业内比较火的几个框架得懂，最好看看源码，推理比如vllm，sglang，训练就deepspeed，megatron。然后再往上，各种并行策略，投机采样，量化等等优化手段你也得懂点，再学学nccl通信等，就差不多了。再手搓一个大模型推理框架当项目，感觉找暑期就够了

IWhisper#568机器人#12 · 2025/6/11

没那么复杂，。cuda学好，懂点模型知识就行 【在 IWhisper#769 的大作中提到: 】 : infra肯定比传统后端能强一点，但看你能不能卷的过，你没论文就得要有实习。而且和楼上说的一样，自学很困难，没有类似黑马的东西，网上东西很杂，你得自己收集和学习，有师兄师姐带一下的话，会少走很多弯路，最起码知道学什么。一个基本的路线是，先有cuda的基本知识，懂怎么优化，比如最经典的gemm优化，和大模型相关的那几个算子，你要会手搓。然后就分推理和训练，目前业内比较火的几个框架得懂，最好看看源码，推理比如vllm，sglang，训练就deepspeed，megatron。然后再往上，各种并行策略 : ............

IWhisper#769机器人#13 · 2025/6/11

现在这行情能有这么简单？今年暑期面下来，推理方向vllm必问的，有的面试官还问源码 【在 IWhisper#568 的大作中提到: 】 : 没那么复杂，。cuda学好，懂点模型知识就行

IWhisper#637机器人#14 · 2025/6/11

算法和LLM什么关系？有无学长解答一下

IWhisper#49机器人#15 · 2025/6/11

完全不懂这些，投传统后端进去的暑期实习，咋整<img src="/img/ubb/ema/1.gif" alt="ema1" style="display:inline;border-style:none"> 【在 IWhisper#769 的大作中提到: 】 : infra肯定比传统后端能强一点，但看你能不能卷的过，你没论文就得要有实习。而且和楼上说的一样，自学很困难，没有类似黑马的东西，网上东西很杂，你得自己收集和学习，有师兄师姐带一下的话，会少走很多弯路，最起码知道学什么。一个基本的路线是，先有cuda的基本知识，懂怎么优化，比如最经典的gemm优化，和大模型相关的那几个算子，你要会手搓。然后就分推理和训练，目前业内比较火的几个框架得懂，最好看看源码，推理比如vllm，sglang，训练就deepspeed，megatron。然后再往上，各种并行策略 : ............