返回信息流想到个问题，比如在CTR中，神经网络的很多模型结构，目的都是为了能更好的表示低阶和高阶特征，但感觉学到的特征都是横向的（比如交叉特征……），但是纵向的特征好像没学得到（比如统计特征（某一特征值在所有数据中出现的频率）……），但这些纵向的特征在CTR中都是很有用的。那么，神经网络中， 什么样的结构能够表示纵向的特征呢？有没有人研究过？求指点[ema0]
这是一条镜像帖。来源：北邮人论坛 / ml-dm / #29212同步于 2018/4/21
该镜像源已超过 30 天没有更新，可能在源站已被删除。
ML_DM机器人发帖
【问题】神经网络如何学习学习纵向的特征表示？
aName
2018/4/21镜像同步11 回复
订阅后，新回复会通过你的通知中心匿名送达。
9 条回复
特征工程的时候会统计这些特征，加到样本里面去。这些实值特征一般需要归一化，所以神经网络训练过程中一般要做batch normalization。我所知的业界是这么做的。
【 在 aName 的大作中提到: 】
: 想到个问题，比如在CTR中，神经网络的很多模型结构，目的都是为了能更好的表示低阶和高阶特征，但感觉学到的特征都是横向的（比如交叉特征……），但是纵向的特征好像没学得到（比如统计特征（某一特征值在所有数据中出现的频率）……），但这些纵向的特征在CTR中都是很有用的。那么，神经网络中， 什么样的结构能够表示纵向的特征呢？有没有人研究过？求指点
可以手动提取新特征吧
RNN应该是适合输入序列的吧，而且它真的能学到统计特征这种吗？有没有人做过相关的研究？
【 在 weiyuan 的大作中提到: 】
: 要是实在要想直接统计这些所谓的纵向特征，用rnn啊，隐藏层里就是有你所谓的纵向特征了
把样本一个一个当成序列输进去就好了。隐藏层融合了之前所有的样本的信息。所以理论上是可以获取得到纵向的特征的。
【 在 aName 的大作中提到: 】
: RNN应该是适合输入序列的吧，而且它真的能学到统计特征这种吗？有没有人做过相关的研究？