#深度学习

softmax 和交叉熵里藏着两个数值 bug，有人给出修法

一篇 10 月论文指出教科书级的 softmax 与交叉熵实现里有两个数值 bug。读完能理解这两个 bug 怎么扭曲梯度、修掉之后能解决哪些训练怪象，为什么老代码也该查一查。