- 25 10月, 2021 1 次提交
-
-
由 Li Min 提交于
功能:本PR的目标是提高attention模块的计算性能。 为了减少框架层对op的调度开销,本PR通过在C++层手动实现attention模块,对外提供attention 大op; 为了减少防存开销,本PR采取了两种优化方法: (1)在q,k,v计算时通过共享输入X,将该处的gemm,transpose和bias add从三次调用减少为一次; (2)使用kernel融合优化技术,在不同cuda kernel之间通过寄存器传输数据;
-
- 22 9月, 2021 1 次提交
-
-
由 Yiqun Liu 提交于
[Cherry-pick 2.2] Correct the return type of elementwise kernel to avoid many compiling warnings. (#35839) (#35868) Cherry-pick #35839
-
- 14 9月, 2021 1 次提交
-
-
由 Yiqun Liu 提交于
Implement FunctionTraits to support two kinds of elementwise functor and remove some old codes for broadcast. (#35688)
-
- 13 9月, 2021 2 次提交
- 07 9月, 2021 1 次提交
-
-
由 niuliling123 提交于
-
- 03 9月, 2021 1 次提交
-
-
由 Yiqun Liu 提交于
-
- 05 8月, 2021 1 次提交
-
-
由 limingshu 提交于
-
- 12 6月, 2021 1 次提交
-
-
由 limingshu 提交于
-
- 20 5月, 2021 1 次提交
-
-
由 limingshu 提交于
-
- 14 5月, 2021 1 次提交
-
-
由 limingshu 提交于
-
- 10 5月, 2021 1 次提交
-
-
由 Zhang Zheng 提交于
-
- 22 4月, 2021 1 次提交
-
-
由 Zhang Zheng 提交于
-
- 18 4月, 2021 1 次提交
-
-
由 Zhang Zheng 提交于
-