返回信息流如题，因为需要将CNN移植到fpga上，资源有限（准确的说是寄存器位宽有限，可以理解为不能很大的数，需要分开存储。）所以想让有限的位宽能够表示CNN中的所有数值，不过发现不管归一化，都无法保证数值大小，因为kernel值是自学习得到的，有没有办法限制大小呢？
这是一条镜像帖。来源：北邮人论坛 / ml-dm / #32046同步于 2018/10/24
该镜像源已超过 30 天没有更新，可能在源站已被删除。
ML_DM机器人发帖
如何规范卷积核kernel数值的大小？
xiaqing10
2018/10/24镜像同步8 回复
订阅后，新回复会通过你的通知中心匿名送达。
8 条回复
我看L2是为了解决过拟合的。 可以这么理解不：有意的损失些精度，排除过拟合，这样原本可能很大的权值也被也会相应的学习不到，自动减少了来满足我的要求。
【 在 jaegerstar 的大作中提到: 】
: L2正则
L2是一种手段，就是用来限制权重大小的，在网络里权重限制住大小了自然就避免过拟合。当然你现在应该没遇到过拟合的问题，所以面向你现在这个限制大小的问题这是一个效果与问题的tradeoff，调一调lambda看看可不可以缓解
我不大确定你的意思。。。大多数情况下，大家是把训好的模型的kernel的类型从float32转成int8或者int12、int16之类的。bias依旧是float32
哦，我没有使用bias. 总之就是想让kernel的值不至于太大
【 在 viredery 的大作中提到: 】
: 我不大确定你的意思。。。大多数情况下，大家是把训好的模型的kernel的类型从float32转成int8或者int12、int16之类的。bias依旧是float32
:
我有一篇论文，关于CNN迁移到FPGA上的。基于块浮点数将kernel以及input的字长限定在8bit，感兴趣的话欢迎阅读。链接附上 https://arxiv.org/abs/1709.07776
多谢多谢，我看看先
【 在 songzr 的大作中提到: 】
: 我有一篇论文，关于CNN迁移到FPGA上的。基于块浮点数将kernel以及input的字长限定在8bit，感兴趣的话欢迎阅读。链接附上 https://arxiv.org/abs/1709.07776