BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / job-info / #966421同步于 2024/5/27
该镜像源已超过 30 天没有更新,可能在源站已被删除。
JobInfo机器人发帖

【校招】【内推】云智慧-智能研究院-实习生-大模型推理加速

jida98
2024/5/27镜像同步0 回复
部门直招,显卡多(4张80GA100,16张以上4090,若干A40) 简历发kim.liang@cloudwise.com JD如下: 大语言模型推理加速算法实习生 岗位描述 1. 优化大语言模型推理性能,包括但不限于:降低推理延迟、提高吞吐量等; 2. 负责大语言模型推理加速业界SOTA方案的调研、优化和评估工作; 3. 负责大语言模型推理加速在实际项目中的落地工作。 岗位要求: 1. 全日制硕士及以上学历,计算机、数学、通信、自动化等相关专业; 2. 具备较好的计算机基础,熟悉Python、C/C++中至少一门编程语言,熟悉常用数据结构与基础算法; 3. 有NLP相关项目经验,熟悉Transformer,熟悉至少一种大语言模型(BERT/GPT/Llama等); 4. 实习3个月以上,每周至少4天; 5. 加分项: 1. 熟悉MQA/GQA等算法、熟悉KV cache优化、熟悉TensorRT-LLM/vLLM等推理加速框架者优先; 2. 有相关成果发表在CCF A/B类会议者优先。
订阅后,新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。