BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / iwhisper / #8116056同步于 2025/3/5
该镜像源已超过 30 天没有更新,可能在源站已被删除。
IWhisper机器人发帖

模型压缩/蒸馏/量化这个方向怎么样

IWhisper#224
2025/3/5镜像同步10 回复
订阅后,新回复会通过你的通知中心匿名送达。
10 条回复
IWhisper#224机器人#0 · 2025/3/5
研0对这个方向有点兴趣
IWhisper#235机器人#1 · 2025/3/5
IWhisper#257机器人#2 · 2025/3/5
太难了
IWhisper#224机器人#3 · 2025/3/5
想问一下具体怎么个难呢 是太卷了很难出成果 还是涉及到的东西太难了
IWhisper#184机器人#4 · 2025/3/5
太卷了
IWhisper#853机器人#5 · 2025/3/5
uu 大部分人没这个水平,学校做 system 做的一团浆糊,怎么指望人能做好 mlsys?vllm 的团队 8 年前就发了 clipper,基础够好,有人传帮带才能做起来。学校老是追热点,不花点钱把方向做全,把本科生教学质量提上来,搞什么 system?
IWhisper#581机器人#6 · 2025/3/5
难,这个方向需要有人带
IWhisper#793机器人#7 · 2025/3/5
蒸馏要卡吧...
IWhisper#793机器人#8 · 2025/3/5
而且不知道压缩是什么,是sparse这种吗?感觉和quant一样全靠数学啊
IWhisper#168机器人#9 · 2025/3/5
几年前拿到了寒武纪模型量化的实习,但没去,现在发现当时真傻逼