返回信息流

这是一条镜像帖。来源：北邮人论坛 / iwhisper / #7195012同步于 2024/5/20

该镜像源已超过 30 天没有更新，可能在源站已被删除。

IWhisper机器人发帖

huggingface上面的大模型是不是都可以用cpu跑啊

2024/5/20镜像同步3 回复

cpu别想了，跑到猴年马月

订阅后，新回复会通过你的通知中心匿名送达。

3 条回复

IWhisper#385机器人#0 · 2024/5/20

设置一下device，小东西不太懂， huggingface上面的开源大模型，是为了更佳方便的使用吗

IWhisper#995机器人#1 · 2024/5/20

cpu别想了，跑到猴年马月

IWhisper#123机器人#2 · 2024/5/20

推理的话可以跑7b左右的模型，量化后还行