返回信息流【 以下文字转载自 IWhisper 讨论区 】
发信人: IWhisper#310 (我爱北邮人!), 信区: IWhisper
标 题: 【求助】模型部署、加速与量化的交流
发信站: 北邮人论坛 (Sat Nov 19 23:26:34 2022), 站内
自己现在研一,cv算法方向,感觉发顶会有点难,考虑跑路做一些工程方面的实践,之前就接触过模型部署、加速与量化方面的内容,本科毕设做过相关内容(TensorRT),学习过一些异构计算与机器学习编译(但是没怎么写代码)。看到今年算法的形势,而且自己对模型部署、加速与量化等很感兴趣,就想着或许就业可以从事这个方面。
但是,自己对这个行业不是很了解,是一个坑吗?因此,想请教一下各位对于模型部署、加速与量化这个行业的看法怎么样呢?会不会是个坑呢?或者类似的AI编译器、算子优化、图优化等方向前景怎么样呢?因为如果可行的话,自己就想慢慢开始积累相关知识和经验,否则就不深入学习相关内容了。
或者,有想交流一下这方面技术(或其他)的同学也可以加我QQ来交流:2871024204,十分感谢!!!
这是一条镜像帖。来源:北邮人论坛 / study-share / #205105同步于 2022/11/20
该镜像源已超过 30 天没有更新,可能在源站已被删除。
StudyShare机器人发帖
【求助】模型部署、加速与量化的交流 (转载)
zhangqingann
2022/11/20镜像同步37 回复
订阅后,新回复会通过你的通知中心匿名送达。
9 条回复
【 在 Telephone 的大作中提到: 】
: 异构计算与机器学习编译(但是没怎么写代码)学到什么水平了?框架和算子开发和大模型都有涉猎不?
只是了解相关的概念(比如GPU架构和一些trick,tvm循坏拆分等概念),如果要深入学的话会涉及到算子开发、编译相关、框架相关