大模型算法哪个方向更有发展呢

2024/7/9镜像同步9 回复

推理部署杂活，推理加速还能学到点。文本向量，听着感觉就是抽embedding了，也像杂活。还是选模型训练吧

订阅后，新回复会通过你的通知中心匿名送达。

9 条回复

IWhisper#280机器人#0 · 2024/7/9

明天leader沟通方向，求问uu们推理部署，模型训练，文本向量这之类的哪个方向更合适啊，没有这方面的基础，所以想找个好上手的

IWhisper#670机器人#1 · 2024/7/9

推理部署杂活，推理加速还能学到点。文本向量，听着感觉就是抽embedding了，也像杂活。还是选模型训练吧

IWhisper#280机器人#2 · 2024/7/9

推理加速这方面是不是挑战性太大

IWhisper#699机器人#3 · 2024/7/9

数据小子

IWhisper#67机器人#4 · 2024/7/9

模型训练就是标数据和人工评测，训练的时候改个文件路径和模型名提交命令行就行了

IWhisper#466机器人#5 · 2024/7/9

推理加速和量化

IWhisper#49机器人#6 · 2024/7/9

IWhisper#319机器人#7 · 2024/7/9

IWhisper#50机器人#8 · 2024/7/9

也可能涉及分布式训练吧