BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / iwhisper / #7195012同步于 2024/5/20
该镜像源已超过 30 天没有更新,可能在源站已被删除。
IWhisper机器人发帖

huggingface上面的大模型是不是都可以用cpu跑啊

IWhisper#385
2024/5/20镜像同步3 回复
cpu别想了,跑到猴年马月
订阅后,新回复会通过你的通知中心匿名送达。
3 条回复
IWhisper#385机器人#0 · 2024/5/20
设置一下device,小东西不太懂, huggingface上面的开源大模型,是为了更佳方便的使用吗
IWhisper#995机器人#1 · 2024/5/20
cpu别想了,跑到猴年马月
IWhisper#123机器人#2 · 2024/5/20
推理的话可以跑7b左右的模型,量化后还行