Created by: zhupengyang

• add 4 api
  • paddle.nn.ReLU(inplace=None)
  • paddle.nn.functional.relu(input, inplace=False, name=None)
  • paddle.nn.LogSoftmax(axis=None)
  • paddle.nn.functional.log_softmax(input, axis=None, dtype=None, name=None)
• relu的inplace说明
  • relu的反向过程只需要out和dout
  • inplace在动态图不支持，只输出warning，参考reshape对inplace的处理
• LogSoftmax
  • 不在paddle.nn.LogSoftmax开放dtype参数，参考Softmax