1. 03 11月, 2020 1 次提交
    • S
      TensorRT中ernie模型推理性能优化,支持变长输入 (#28367) · ea851796
      Shang Zhizhou 提交于
      * fp16 result ok
      
      * change -DWITH_NVINFER_PLUGIN toconfig.EnableTensorRtOSS
      
      * auto detect special slice op converter for ernie with trt oss
      
      * ernie oss only support fp16
      
      * fix special_slice_plugin serialize bug
      
      * matmul in tensorrt ok
      
      * ernie unittest ok
      
      * add matmul tensorrt unittest
      
      * remove demo code
      ea851796
  2. 01 9月, 2020 1 次提交
    • Z
      [Paddle-TRT] Stack op plugin (#25605) · ad6e3dd6
      zlsh80826 提交于
      * add stack_op to CMakeLists
      
      * add dim=3 support for scale op
      
      * add trt stack op, test=develop
      
      * remove debug message
      
      * add stack plugin serialize
      
      * remove slice, scale op, will add later
      
      * enhence error message
      
      * revise trt ernie test to conver the stack op CI testi, test=develop
      
      * add stack op serialization
      
      * fix test shape after adding stack op
      
      * remove slice op, will add after implementing serialization
      
      * roll back to min_graph=5 to avoid using slice op
      
      * fix scale op output layer
      
      * implement stack op createPlugin
      
      * use workspace and move the defination to .cu
      
      * move stack plugin creator definition to .cu, test=develop
      ad6e3dd6
  3. 19 4月, 2020 1 次提交
  4. 14 4月, 2020 1 次提交
  5. 12 4月, 2020 1 次提交
  6. 08 4月, 2020 2 次提交
  7. 26 3月, 2020 1 次提交
    • Z
      [Paddle-TRT]: Ernie Dynamic shape support. (#23138) · 430b0099
      Zhaolong Xing 提交于
      * add dynamic plugin support.
      test=develop
      
      * change emb eltwise layernorm to math function
      test=develop
      
      * add emb eltwise layernorm
      test=develop
      
      * can run dynamic shape ernie
      test=develop
      
      * fix ci
      test=develop
      
      * add ut for trt ernie dynamic
      
      test=develop
      
      * refine dynamic shape c++ interface.
      test=develop
      
      * fix comments
      test=develop
      
      * fix comments
      test=develop
      430b0099
  8. 14 1月, 2020 1 次提交
  9. 07 1月, 2020 1 次提交
  10. 06 1月, 2020 1 次提交
  11. 24 7月, 2019 1 次提交
    • Z
      Update trt5 for paddle-trt (#18645) · 26ae6d49
      Zhaolong Xing 提交于
      * update paddle-trt for:
          1. fix bug: when batch > 2, core in split plugin.
          2. add leaky_relu trt5.0 support (yolov3 from 65ms to 42ms.)
          3. add new attr to dropout.
          4. shuffle channel, swish, relu6 support
          test=develop
      
      * 1. fix ci
      test=develop
      26ae6d49
  12. 23 5月, 2019 1 次提交
  13. 21 5月, 2019 1 次提交
  14. 21 11月, 2018 1 次提交
  15. 20 11月, 2018 1 次提交
  16. 19 11月, 2018 1 次提交
  17. 16 11月, 2018 3 次提交
  18. 13 11月, 2018 2 次提交
  19. 12 10月, 2018 1 次提交
  20. 17 9月, 2018 1 次提交
  21. 24 8月, 2018 1 次提交
  22. 17 8月, 2018 1 次提交
  23. 09 8月, 2018 1 次提交
  24. 08 8月, 2018 1 次提交
  25. 27 7月, 2018 1 次提交
  26. 25 7月, 2018 1 次提交
  27. 24 7月, 2018 2 次提交
  28. 23 7月, 2018 1 次提交
  29. 19 7月, 2018 1 次提交
  30. 07 6月, 2018 1 次提交
  31. 06 6月, 2018 1 次提交
  32. 01 6月, 2018 1 次提交
  33. 29 5月, 2018 1 次提交
  34. 25 5月, 2018 1 次提交
  35. 22 5月, 2018 1 次提交