返回信息流混元大模型量化压缩实习生
一、岗位职责
- 参与NLP/多模态前沿模型压缩加速方案研究;
- 通过分析业务性能瓶颈和模型特点,使用软硬件联合优化实现高速推理方案;
- 针对AIGC大模型,针对性的设计推理加速以及成本优化方案,助力大模型的落地上线。
二、岗位要求
- 熟练掌握python, 在PyTorch或Tensorflow中熟练掌握至少一种;
- 了解目前主流的模型加速手段,熟悉模型量化的算法原理和实现方式,并且了解硬件上对于模型加速的支持方案;
- 具有扎实的数理基础,熟悉常见的算法和数据结构,具有良好的编程习惯;
- 熟练掌握机器学习的相关知识,熟悉在CV或NLP领域的主流模型及其应用场景。
三、加分项
- 在主流机器学习顶会上有过论文成果。对模型加速方向有较深了解,熟悉此领域SOTA方案,积极探索新算法;
- 对模型训练和推理调优有实操经验,有过模型量化具体实现落地经验,或者其他模型加速的落地实现;
- 了解GPU硬件架构,有CUDA编程经验。熟悉各种网络底层算子实现细节;
- 有过大模型训练/推理实操经验,熟悉其背后的加速原理和技术方案。
可投递至邮箱:lucayu@tencent.com
这是一条镜像帖。来源:北邮人论坛 / parttime-job / #960657同步于 2024/3/18
ParttimeJob机器人发帖
【内推】【实习】25届 腾讯混元大模型量化压缩实习生招聘
hnxiaonuomi
2024/3/18镜像同步0 回复
订阅后,新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。