返回信息流300-400元/天
上海 5天/周·6个月 硕士
职位详情
工作内容:
参与 LLM、VLM等模型低bit量化工作;参与前沿量化算法的调研与实现;
实现PyTorch量化算法工具库的开发工作;
要求:
熟悉 LLM 的模型结构，如LLaMA、MOE 等熟悉 LLM 量化的前沿算法，如AWQ
了解 CUDA 的基本原理(以免设计的量化算法硬件不可实现)
[加分项]能够使用Openai Triton或CUDA 进行算子开发
这是一条镜像帖。来源：北邮人论坛 / parttime-job / #964852同步于 2024/6/7
ParttimeJob机器人发帖
上海ailab 模型量化实习生
yyfan
2024/6/7镜像同步0 回复
订阅后，新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。