add other 15 activation ops (#32622)

b2160e73 · Zhang Zheng · GitHub · 74682530 · b2160e73 · b2160e73
Showing with 706 addition and 98 deletion

paddle/fluid/operators/activation_op.cu paddle/fluid/operators/activation_op.cu +704 -96

python/paddle/fluid/tests/unittests/test_activation_op.py python/paddle/fluid/tests/unittests/test_activation_op.py +2 -2

未找到文件。
--- a/paddle/fluid/operators/activation_op.cu
+++ b/paddle/fluid/operators/activation_op.cu
--- a/python/paddle/fluid/tests/unittests/test_activation_op.py
+++ b/python/paddle/fluid/tests/unittests/test_activation_op.py
@@ -2718,7 +2718,7 @@ create_test_act_fp16_class(TestRelu)
 create_test_act_fp16_class(TestGelu)
 create_test_act_fp16_class(TestBRelu)
 create_test_act_fp16_class(TestRelu6)
-create_test_act_fp16_class(TestSoftRelu)
+create_test_act_fp16_class(TestSoftRelu, grad_atol=0.85)
 create_test_act_fp16_class(TestELU)
 create_test_act_fp16_class(TestReciprocal)
 create_test_act_fp16_class(TestLog)
@@ -2736,7 +2736,7 @@ create_test_act_fp16_class(TestSoftplus)
 create_test_act_fp16_class(TestSoftsign)
 create_test_act_fp16_class(TestThresholdedRelu)
 create_test_act_fp16_class(TestHardSigmoid)
-create_test_act_fp16_class(TestSwish)
+create_test_act_fp16_class(TestSwish, grad_atol=0.85)
 create_test_act_fp16_class(TestHardSwish)

 if __name__ == "__main__":