BBYR Achieve
返回信息流
这是一条镜像帖。来源:北邮人论坛 / ml-dm / #33790同步于 2019/4/17
该镜像源已超过 30 天没有更新,可能在源站已被删除。
ML_DM机器人发帖

【菜鸡求助】网络收敛,但收敛不到论文指标

isla
2019/4/17镜像同步10 回复
lz做超分辨率,复现的是SRDenseNet,现在问题比较棘手。论文作者给出的结果最差的psnr也在26.05 我个人的实现:一开始是5k样本4倍下采样 ground truth是100 x 100 rgb三通道训练 input尺寸25 x 25 最后测试集收敛的psnr在23+ 本以为是训练集不够大 加到5w的样本数 依然没有改善 转到YCbCr空间单独用Y通道训练(论文的做法)结果依然低于论文的指标 求助想问 同规模但不同的训练集是否会影响(原文用的是imagenet随机抽5w张 我个人是用的kaggle上的一个老婆头像训练集5w张) 现在正在尝试输入输出归一化下的训练效果 如果这个方法还不能达到目标 可能出了什么问题?(我曾经以为网络写的有问题 但是单步跑了好几遍前向传播看上去没问题 并且现在是loss很好地收敛 但loss不够小 导致psnr不达标 后面ssim就更不必提了) (哎……这网络看上去其实挺简单的 断断续续训练搞了大概一个星期了也不知道为啥就是不达标 知道自己菜 但想不到这么菜 重建老婆这么难的么)
订阅后,新回复会通过你的通知中心匿名送达。
9 条回复
bdyzhy9527机器人#1 · 2019/4/17
你以为有个老婆很容易嘛?
moonfighting机器人#2 · 2019/4/17
论文复现不了那是常态。。要习惯
isla机器人#3 · 2019/4/17
挺容易的 但是你把老婆伤了(打码/降维/模糊/加噪)想和好(过神经网络恢复)是不容易 【 在 bdyzhy9527 (米饭星人) 的大作中提到: 】 : 你以为有个老婆很容易嘛?
isla机器人#4 · 2019/4/17
哎……这是毕设 要是其他的也就算了 今年毕设加要求 要是复现不了的话我怕是都毕不了业 话说我不太明白 既然都是发表的论文 又是顶会(我承认顶会也有水文)复现允许有差距(因为我怀疑有些论文多多少少加了overfitting) 但是差距太大很大程度在怀疑自己 另一部分也在怀疑论文……说实话不太敢怀疑真实性 所以抛出问题想求教 【 在 moonfighting (moonfighting) 的大作中提到: 】 : 论文复现不了那是常态。。要习惯
moonfighting机器人#5 · 2019/4/17
任何一点小的差别都会影响最终结果,你最好的办法就是完全按照论文中的实验设置来做,从超参的设置到数据集的选择。如果还不行就发邮件给原作者 【 在 isla 的大作中提到: 】 : 哎……这是毕设 要是其他的也就算了 今年毕设加要求 要是复现不了的话我怕是都毕不了业 : 话说我不太明白 既然都是发表的论文 又是顶会(我承认顶会也有水文)复现允许有差距(因为我怀疑有些论文多多少少加了overfitting) 但是差距太大很大程度在怀疑自己 另一部分也在怀疑论文……说实话不太敢怀疑真实性 所以抛出问题想求教
isla机器人#6 · 2019/4/17
okay 感谢建议[ema4] 【 在 moonfighting (moonfighting) 的大作中提到: 】 : 任何一点小的差别都会影响最终结果,你最好的办法就是完全按照论文中的实验设置来做,从超参的设置到数据集的选择。如果还不行就发邮件给原作者
ShaunHolmes机器人#7 · 2019/4/17
换成DIV2K数据集试试
isla机器人#8 · 2019/4/17
okay 我去试试 感谢! 想请教一下 同一模型在不同训练集表现不同这个有什么好的说法或者论文么?总感觉挺奇怪的 【 在 ShaunHolmes (ShuanHolmes) 的大作中提到: 】 : 换成DIV2K数据集试试
ShaunHolmes机器人#9 · 2019/4/18
DIV2K是超分竞赛的官方数据集,数据质量好,细节纹理多。ImageNet图片质量难以保证。JPEG图片为有损压缩,而DIV2K数据为PNG格式,可视为无损RGB数据。 【 在 isla 的大作中提到: 】 : okay 我去试试 感谢! : 想请教一下 同一模型在不同训练集表现不同这个有什么好的说法或者论文么?总感觉挺奇怪的