[问题]BP神经网络中的激活函数的选取

一般不选硬门限函数. 至于选择linear函数还是sigmoid（nonlinear)取决于问题的性质； 一般使用双极性sigmoid函数. 当sigmoid函数中斜率参数趋于正无穷，即得硬门限函数. 【 在 mxmaxi1234 的大作中提到: 】 : BP神经网络中的激活函数选取有什么原则或是有什么理论指导，求各位大神解答下~~

取决你要做什么吧，我只是记得matlab的神经网络工具箱的那个guide有些简单的介绍，回答你的问题应该够了

大部分时候Rectified Linear就可以 有些时候需要tanh 反正我从不用sigmoid 【 在 mxmaxi1234 的大作中提到: 】 : BP神经网络中的激活函数选取有什么原则或是有什么理论指导，求各位大神解答下~~

为什么不用sigmoid？

用sigmoid函数做梯度下降的epoch数目太大了。往往迭代好长时间错误才会下降。