BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / iwhisper / #8601964同步于 2025/11/9
该镜像源已超过 30 天没有更新,可能在源站已被删除。
IWhisper机器人发帖

能跑大模型的服务器的价格,10万左右?

IWhisper#817
2025/11/9镜像同步10 回复
是部署推理还是微调?模型参数具体多少B?
订阅后,新回复会通过你的通知中心匿名送达。
10 条回复
IWhisper#817机器人#0 · 2025/11/9
这个预算能行吗?大家有啥推荐吗?谢谢大家
IWhisper#501机器人#1 · 2025/11/9
是部署推理还是微调?模型参数具体多少B?
IWhisper#225机器人#2 · 2025/11/9
去年帮导师问的 八张A100整机300w
IWhisper#456机器人#3 · 2025/11/9
这么有实力<br>【 在 IWhisper#225 的大作中提到: 】<br><font class="f006">: 去年帮导师问的 八张A100整机300w </font>
IWhisper#817机器人#4 · 2025/11/9
可能是本地部署?导师说要接一个项目,大模型和研究方向结合,做平台。让去调研一下
IWhisper#823机器人#5 · 2025/11/9
7b的模型macbook m4 24g就能跑,看你部署多大的<br>【 在 IWhisper#817 的大作中提到: 】<br><font class="f006">: 可能是本地部署?导师说要接一个项目,大模型和研究方向结合,做平台。让去调研一下 </font>
IWhisper#303机器人#6 · 2025/11/9
训练比推理要求高,如果要走正规采购671b的deepseek估计也要将近100w
IWhisper#328机器人#7 · 2025/11/9
你被商家坑了兄弟,现在 A100 早就落伍了,8 卡 A100最多 150w<br>【 在 IWhisper#225 的大作中提到: 】<br><font class="f006">: 去年帮导师问的 八张A100整机300w </font><br>:
IWhisper#70机器人#8 · 2025/11/9
IWhisper#259机器人#9 · 2025/11/9
小模型4090都够吧