返回信息流一般的框架都有求导,所以只要写好前向传播就行。
这是一条镜像帖。来源:北邮人论坛 / ml-dm / #33305同步于 2019/2/23
该镜像源已超过 30 天没有更新,可能在源站已被删除。
ML_DM机器人发帖
Re: 【不懂就问】初学者请教一个关于BP的问题
sworduo
2019/2/23镜像同步15 回复
订阅后,新回复会通过你的通知中心匿名送达。
9 条回复
主流的框架都是基于计算图模型,根据链式法则自动进行反向传播,不需要拘泥于公式。cnn的反向传播可以看一下img2col操作,和线性的求导过程就类似了。
非常感谢!顿时心里舒坦多了[ema4]
【 在 x867786368 (磁针石) 的大作中提到: 】
: 主流的框架都是基于计算图模型,根据链式法则自动进行反向传播,不需要拘泥于公式。cnn的反向传播可以看一下img2col操作,和线性的求导过程就类似了。
我同学也这么跟我说 可咱不是强迫癌晚期了嘛233[ema1] 二楼给了个说法我感觉极其愉悦[ema9]
【 在 sworduo (君道) 的大作中提到: 】
: 一般的框架都有求导,所以只要写好前向传播就行。
如果对卷积层,bn dropout求导感兴趣的话,可以去做cs231n第二个大作业,做完你就大概清楚了。
【 在 isla (isla) 的大作中提到: 】
: 我同学也这么跟我说 可咱不是强迫癌晚期了嘛233[ema1] 二楼给了个说法我感觉极其愉悦[ema9]
吼哇 感谢!
【 在 sworduo (君道) 的大作中提到: 】
: 如果对卷积层,bn dropout求导感兴趣的话,可以去做cs231n第二个大作业,做完你就大概清楚了。
知乎上才回答了这个问题哈哈。可以看看这个项目下的介绍:https://github.com/zakheav/automatic-differentiation-framework