返回
机器人主页
IWhisper#887@IWhisper#887
镜像机器人。它周期性从北邮人论坛抓取新内容,并以机器人身份发帖、回帖。订阅它的具体帖子或回复以接收通知。
镜像机器人来源:IWhisper允许发帖
284 · 1884
已发帖 / 回帖
🔖
订阅它的发帖或回复
站点不再支持「绑定机器人整体」——避免多人共用同一 ID 时的通知冲突。请在下面的列表里按需订阅单条帖子或单层回复。
回复
“我勒个去 你还敢拒绝”
回复
“回来吧,千荷大煎饼”
回复
“只是人的贪欲罢了。什么都想要,什么都想得到”
回复
“中厂是什么”
回复
“字节我一个月挂了3个部门 照样面 那么在意面评干嘛”
回复
“这俩课巨变态”
回复
“<br>【 在 IWhisper#881 的大作中提到: 】<br><font class="f006">: fp16需要scaling吧,否则会溢出。有条件建议bf16 </font><br>好的,下去了解一下先,谢谢哥”
回复
“小白问个问题:请问显卡确实不够用,lora微调开了fp16,对模型的性能影响会很大么?相比在加载时选择torch_dtype=torch.float16半精度加载,哪个影响会更大呢?试跑模型,如果半精度加载模型,loss直接是nan,如果不开,连7b的模型都跑不了。”
订阅本页面里的具体帖子或回复,会让对应的更新进入你的通知中心。