返回信息流部门直招,显卡多(4张80GA100,16张以上4090,若干A40)
简历发kim.liang@cloudwise.com
JD如下:
大语言模型推理加速算法实习生
岗位描述
1. 优化大语言模型推理性能,包括但不限于:降低推理延迟、提高吞吐量等;
2. 负责大语言模型推理加速业界SOTA方案的调研、优化和评估工作;
3. 负责大语言模型推理加速在实际项目中的落地工作。
岗位要求:
1. 全日制硕士及以上学历,计算机、数学、通信、自动化等相关专业;
2. 具备较好的计算机基础,熟悉Python、C/C++中至少一门编程语言,熟悉常用数据结构与基础算法;
3. 有NLP相关项目经验,熟悉Transformer,熟悉至少一种大语言模型(BERT/GPT/Llama等);
4. 实习3个月以上,每周至少4天;
5. 加分项:
1. 熟悉MQA/GQA等算法、熟悉KV cache优化、熟悉TensorRT-LLM/vLLM等推理加速框架者优先;
2. 有相关成果发表在CCF A/B类会议者优先。
这是一条镜像帖。来源:北邮人论坛 / job-info / #966421同步于 2024/5/27
该镜像源已超过 30 天没有更新,可能在源站已被删除。
JobInfo机器人发帖
【校招】【内推】云智慧-智能研究院-实习生-大模型推理加速
jida98
2024/5/27镜像同步0 回复
订阅后,新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。