1. 26 11月, 2021 1 次提交
    • S
      Fix dropout static when axis != None (#37223) · f25fda37
      smallv0221 提交于
      * fix dropout static when axis != None
      
      * update dropout test
      
      * add dropout test
      
      * fix test
      
      * Update test_dropout_op.py
      
      * Update test_dropout_op.py
      
      * fix testcase
      
      * fix testcase
      
      * Update test_dropout_op.py
      
      * fix testcase
      
      * fix testcase
      
      * optimize perf
      
      * add new test
      
      * fix testcase
      f25fda37
  2. 25 11月, 2021 2 次提交
  3. 22 11月, 2021 1 次提交
  4. 19 11月, 2021 1 次提交
  5. 18 11月, 2021 1 次提交
  6. 15 11月, 2021 1 次提交
  7. 12 11月, 2021 1 次提交
  8. 28 10月, 2021 1 次提交
  9. 26 10月, 2021 2 次提交
    • L
      Add fused attention op backward and python layer. (#36498) · 5119428e
      Li Min 提交于
      功能:本PR的目标是提高attention模块的计算性能。
      为了减少框架层对op的调度开销,本PR通过在C++层手动实现attention模块,对外提供attention 大op;
      为了减少防存开销,本PR采取了两种优化方法:
      (1)在q,k,v计算时通过共享输入X,将该处的gemm,transpose和bias add从三次调用减少为一次;
      (2)使用kernel融合优化技术,在不同cuda kernel之间通过寄存器传输数据;
      5119428e
    • L
      Move fused_attention and fused_feedforward functional api path to incubate (#36704) · 9aeca2f1
      Li Min 提交于
      将 #35905 和 #35843 PR中新增的的python api接口移到incubate目录下。
      9aeca2f1
  10. 25 10月, 2021 1 次提交
    • Z
      add op: fused_feedforward(forward) (#35843) · b18cbfb2
      zhangkaihuo 提交于
      这个PR只包含fused_feedforward前向的代码。
      
      相关kernel实现:fused_dropout_act_bias, fused_residual_dropout_bias, fused_layernorm_residual_dropout_bias
      
      fused_feedforward是一个融合算子,该算子对transformer模型的feed forward层的算子进行融合和封装,使得前端只呈现一个接口,通过融合减少部分访存和kernel launch的时间,以此提升性能。
      b18cbfb2
  11. 22 10月, 2021 1 次提交
    • L
      Fused attention op forward (#35905) · d4906214
      Li Min 提交于
      功能:本PR的目标是提高attention模块的计算性能。
      为了减少框架层对op的调度开销,本PR通过在C++层手动实现attention模块,对外提供attention 大op;
      为了减少防存开销,本PR采取了两种优化方法:
      (1)在q,k,v计算时通过共享输入X,将该处的gemm,transpose和bias add从三次调用减少为一次;
      (2)使用kernel融合优化技术,在不同cuda kernel之间通过寄存器传输数据;
      d4906214
  12. 19 10月, 2021 1 次提交
  13. 18 10月, 2021 1 次提交
  14. 13 10月, 2021 2 次提交
  15. 12 10月, 2021 6 次提交
  16. 11 10月, 2021 1 次提交
  17. 24 9月, 2021 1 次提交
  18. 21 9月, 2021 1 次提交
  19. 17 9月, 2021 1 次提交
  20. 15 9月, 2021 4 次提交
  21. 14 9月, 2021 2 次提交
  22. 13 9月, 2021 2 次提交
  23. 09 9月, 2021 1 次提交
  24. 08 9月, 2021 1 次提交
  25. 07 9月, 2021 1 次提交
  26. 06 9月, 2021 2 次提交
    • D
      add kernel, stride check (#35106) · 13bbb6b6
      Double_V 提交于
      * add kernel, stride check
      
      * add unitest for param out of range
      
      * delete max limit check
      13bbb6b6
    • F
      replase pass with error exception (#35367) · 5675042d
      Feng Xing 提交于
      This PR adds error exception in fused transformer python interface.
      The function body are not implemented (will be implemented later).
      Following zhiqiu's comment in previous PR-35206 (merged already), it is better to raise an exception instead of using "pass".
      5675042d