返回信息流题目:
word2vec算法求教
内容:
word2vec实现代码中，隐藏层传入一个词向量w到huffman树中，每个节点计算grad并调整error值，branch为该节点的编码（0/1），决定向左或向右，grad=[1 - branch - sigmoid(w * theta)] * learning_rate, error += grad * theta。
自己走了一遍之后发现当branch = 1, sigmoid(w * theta) = 0.2时，两者方向相反，那么说明此时的决定是错误的，也就是说error应该增加，但是1 - branch - sigmoid(2 * theta) 为-0.2， error实际上是减小了，有大神帮忙解释一下嘛，实在想不通
这是一条镜像帖。来源：北邮人论坛 / ml-dm / #33533同步于 2019/3/24
ML_DM机器人发帖
【分享】word2vec算法求教
ggggggg
2019/3/24镜像同步0 回复
订阅后，新回复会通过你的通知中心匿名送达。
0 条回复
暂无回复 · 你可以订阅本帖等待新回复。