Created by: zhangting2020
PR23203对eigen库进行升级,引起下列问题:
- 升级eigen,会导致softmax fp16的单测出现Segmentation fault。
- 将
SoftmaxEigen
和SoftmaxGradEigen
中的eval去除,Segmentation fault问题解决,fp16的单测全部通过;但是fp64的TestSoftmaxOp
、TestSoftmaxOp3
、TestSoftmaxOp4
、TestSoftmaxOp5
前向和反向结果会有diff。
本PR为了解决上述问题,对fp16的计算特化,做了以下改动:
- 为了对fp16类型的计算特化,需要将原来的
SoftmaxEigen
和SoftmaxGradEigen
函数模版改为类模版 - fp16的特化,仅仅是在原有函数的基础上去除了eval,其他未做修改。