[问题]求问大神神经网络分类器和贝叶斯网络分类器的区别

那要分你问的是在什么领域的用处了 Bayesian Network 是graphical model的东西， 想法很好， 但优化起来很难，不过也有成功应用在vision上面，比如用graph cut进行优化 Graphical model是很强大的，你能够引入很多先验知识，并得到相对不错的generative model， 也就是说你能够学习到数据的distribution，那样你可以在distribution下进行采样，能够生成sample，当然这只是理想........ 理想跟显示永远那么远，如果你单单讨论bayesian network，那就是你能够引入很多的condition关系 Neural Network也分好多种，最成功的是Convolutional Neural Net 用在视觉中或者自然语言处理领域，想法是通过提取多层特征， 进行特征组合，最后进行判别，判别的过程可以选择用跟NN比较符合的softmax，当然也可以仅仅把CNN当做是提取特征的步骤，再讲提取出来的特征输入到更复杂的分类器，比如SVM，Random Forest 如果你说的是传统的多层全链接神经网络，你可以简单的理解是Non linear regression, 只不过你现在选择的非线性函数用sigmoid。 不过其实Neural Net 也有与graphical model 对应的模型，比如hinton 引入的 Restricted boltzmann machine 和 boltzmann machine, 其实就是graphical model的一种，也是generative model，同样存在着优化很困难的问题， 目前来说，这两个模型的应用还是相当受限，大部分你能见到的深度学习成功的案例大部分是CNN， 因为优化起来实在是太困难了，只能通过近似gradient的方法优化，而近似的过程中包含着一步采样过程，但MCMC或是Gibbs sampling的采样过程是很tricky的，没人知道需要采样多少次才能达到equilibrium, 目前的方法主要是Constractive Divergence，通常是做CD-k，也就是采样k次，问题在于这k次，可能并没有采到real distribution。所以model还需要进一步完善， 这其实也是传统graphical model面临的比较大的问题。 CNN就不同了， CNN能够很好的优化，尽管lost function 是non-convex，但并不是问题， 因为即使不是最优解，也都会是很好的解，而且 如果你仔细研究cnn，其实也是markov random field的一种。 额。。。。。是不是说的太多了。。。。。

mark 【 在 xieweidi (xieweidi) 的大作中提到: 】 : 那要分你问的是在什么领域的用处了 : Bayesian Network 是graphical model的东西， 想法很好， 但优化起来很难，不过也有成功应用在vision上面，比如用graph cut进行优化 : Graphical model是很强大的，你能够引入很多先验知识，并得到相对不错的generative model， 也就是说你能够学习到数据的distribution，那样你可以在distribution下进行采样，能够生成sample，当然这只是理想........ 理想跟显示永远那么远，如果你单单讨论bayesian network，那就是你能够引入很多的condition关系 : ................... 通过『我邮2.0』发布

【 在 xieweidi 的大作中提到: 】 : 那要分你问的是在什么领域的用处了 : Bayesian Network 是graphical model的东西， 想法很好， 但优化起来很难，不过也有成功应用在vision上面，比如用graph cut进行优化 : Graphical model是很强大的，你能够引入很多先验知识，并得到相对不错的generative model， 也就是说你能够学习到数据的distribution，那样你可以在distribution下进行采样，能够生成sample，当然这只是理想........ 理想跟显示永远那么远，如果你单单讨论bayesian network，那就是你能够引入很多的condition关系 : ................... 发了几天了终于有大神回答了，大神能加你Q吗，我想再请教一些问题，麻烦了，谢谢

【 在 sunnygirl 的大作中提到: 】 : 发了几天了终于有大神回答了，大神能加你Q吗，我想再请教一些问题，麻烦了，谢谢 174116669. 我不在国内 所以 我一般国内时间下午才会上