softmax_op的输出有可能是0
Created by: luotao1
softmax_op目前的实现,输出有可能为0。这样在后续碰到log()
的时候,log(0)
会出现NAN的错误。
paddle原先的softmax,在内部对出现0的情况,CPU和GPU都作了处理,
- CPU代码在paddle/math/Matrix.cpp的
softmax
中 - GPU代码在paddle/cuda/src/hl_cuda_matrix.cu的
softmax
中
Created by: luotao1
softmax_op目前的实现,输出有可能为0。这样在后续碰到log()
的时候,log(0)
会出现NAN的错误。
paddle原先的softmax,在内部对出现0的情况,CPU和GPU都作了处理,
softmax
中softmax
中