提交 · fa08a5147dd64e8e1fd7b5988609288c290272e9 · PaddlePaddle / Paddle

19 5月, 2023 1 次提交
- S
  
  [Inference] Save optimized model by pass (#53696) · fa08a514
  由 shentanyue 提交于 5月 19, 2023
  
  fa08a514
18 5月, 2023 1 次提交

[inference][trt]Remove trt sparse weight api (#53905) · 1007690b

由 Zhang Jun 提交于 5月 18, 2023

* Revert "[inference][trt]add trt sparse weights switch (#53562)"

This reverts commit 4a69a536.

* remove kSPARSE_WEIGHTS

* remove kFASTER_DYNAMIC_SHAPES_0805 and add 'TrtMajorVersion' function

1007690b

16 5月, 2023 1 次提交
- Y
  [Inference] clean unused code/target for reduce inference so volume (PART I) (#53762) · 51ecd933
  由 Yuanle Liu 提交于 5月 16, 2023
```
* remove prelu land ookuip_table plugin, adjust .h include location

* clean code and adjust some .h

* update
```
  51ecd933
12 5月, 2023 1 次提交
- R
  
  [CustomDevice] add inference MP support, PART1 (#53702) · c497b43f
  由 ronnywang 提交于 5月 12, 2023
  
  c497b43f
11 5月, 2023 2 次提交
- Z
  
  [inference][trt]add trt sparse weights switch (#53562) · 4a69a536
  由 Zhang Jun 提交于 5月 11, 2023
  
  4a69a536
- 张
  
  昇腾和寒武纪相关代码退场 npu相关代码退场2 (#53568) · 0d45ac73
  由张春乔提交于 5月 11, 2023
  
  0d45ac73
09 5月, 2023 1 次提交
- W
  
  Support trt cuda graph. (#53406) · ea0abf93
  由 Wilber 提交于 5月 09, 2023
  
  ea0abf93
27 4月, 2023 1 次提交
- Z
  
  xpu quant weight only (#53306) · 1c97aa69
  由 zhupengyang 提交于 4月 27, 2023
  
  1c97aa69
24 4月, 2023 1 次提交

remove some [-Wunused-parameter] (#53185) · 834eb2ba

由 Galaxy1458 提交于 4月 24, 2023

* test,test=develop

* test,test=develop

* test,test=develop

* test,test=develop

* test,test=develop

* test,test=develop

* test,test=develop

* test ,test=develop

834eb2ba

23 4月, 2023 1 次提交
- W
  
  fix paddle-trt bug when encounter inplace var + weight share condition. (#53184) · e123b98e
  由 Wilber 提交于 4月 23, 2023
  
  e123b98e
21 4月, 2023 1 次提交

Mv inference ut (#52987) · 008debe7

由 tianshuo78520a 提交于 4月 21, 2023

* mv inference/api infer_ut

* mv test

* merge develop fix error

* fix

* fix build error

* fix build error

* fix bug

* fix tester_helper.h

* fix analyzer_transformer_profile_tester.cc

* fix

* fix mac

* fix mac

* fix error

* fix

* fix

008debe7

20 4月, 2023 1 次提交
- C
  
  Fix open missing mode on jetson (#53019) · 2395cbe5
  由 chalsliu 提交于 4月 20, 2023
  
  2395cbe5
19 4月, 2023 1 次提交
- C
  
  Convert to mixed precision support serialize params if a origin model doesn't have params. (#52994) · eba057e3
  由 csy0225 提交于 4月 19, 2023
  
  eba057e3
17 4月, 2023 1 次提交
- J
  
  Support trt engine auto build in runtime for dynamic shape (#52162) · ebc58548
  由 JingZhuangzhuang 提交于 4月 17, 2023
  
  ebc58548
12 4月, 2023 1 次提交
- Y
  fix convert_to_mixed_precision api save model bug (#52767) · b835d958
  由 Yuanle Liu 提交于 4月 12, 2023
```
* update save model

* update
```
  b835d958
03 4月, 2023 1 次提交
- remove WITH_ASCEND_CL PADDLE_WITH_ASCEND_CL WITH_ASCEND_CXX11 (#52448) · 0b60f28c
  由 engineer1109 提交于 4月 03, 2023
  
  0b60f28c
29 3月, 2023 1 次提交
- Z
  
  [XPU] optimize pass (#52099) · 599388e3
  由 zhupengyang 提交于 3月 29, 2023
  
  599388e3
27 3月, 2023 1 次提交
- E
  add custom device mixed precision inference api (#50884) · a6449634
  由 engineer1109 提交于 3月 27, 2023
```
fix bug

remove useless

fix bug

add pybind

remove log

fix style

fix style

change api
```
  a6449634
22 3月, 2023 1 次提交
- Z
  
  [XPU] subgraph support device param copy (#51876) · f293e36c
  由 zhupengyang 提交于 3月 22, 2023
  
  f293e36c
03 3月, 2023 1 次提交
- J
  
  add function to disable trt op by output name (#49497) · db47dec5
  由 JingZhuangzhuang 提交于 3月 03, 2023
  
  db47dec5
28 2月, 2023 1 次提交
- Z
  
  [XPU] support convert fp16 model (#50790) · f265a313
  由 zhupengyang 提交于 2月 28, 2023
  
  f265a313
27 2月, 2023 1 次提交
- Z
  
  handle trt engine deserialization failure and rebuild (#50775) · 377cbcea
  由 Zhang Jun 提交于 2月 27, 2023
  
  377cbcea
22 2月, 2023 1 次提交
- Z
  
  [XPU] link out_max to x_max between xpu_fusion_ops (#50690) · 1fd1c169
  由 zhupengyang 提交于 2月 22, 2023
  
  1fd1c169
21 2月, 2023 1 次提交

Optimize the ernie inference performance on xpu backend. (#50357) · b39afb13

由 csy0225 提交于 2月 21, 2023

* Optimize the ernie inference performance on xpu

* fix enable runtime cache logic

* when op's input shape has changed, should create a new runtime context

* fix

* set flag when input shape has changed

b39afb13

14 2月, 2023 1 次提交
- D
  Expand mixed_precision to custom device (#50378) · fcb746cb
  由 duanyanhui 提交于 2月 14, 2023
```
* expand mix_precision to custom_device

* fix bug

* fix bug

* fix comment

* fix DEFINE bug
```
  fcb746cb
10 1月, 2023 1 次提交
- 张
  
  fix var->IsType<phi::DenseTensor>() repeat judgment conditions (#49624) · ac9c7e4d
  由张春乔提交于 1月 10, 2023
  
  ac9c7e4d
03 1月, 2023 1 次提交

[Paddle Inference] Implement conv2d_fusion NHWC format using cutlass (#47989) · c123dd1e

由 zhoutianzi666 提交于 1月 03, 2023

* Implement conv2d_fusion NHWC format using CUTLASS
* Add unit testing for CUTLASS Conv in inference
* Add experimental API for CUTLASS.

c123dd1e

01 1月, 2023 1 次提交
- G
  
  memorty_optimize remove inplace op (#49431) · aa96ddc3
  由 gem5 提交于 1月 01, 2023
  
  aa96ddc3
28 12月, 2022 1 次提交
- Y
  
  update some trt log (#49330) · 02019804
  由 Yuanle Liu 提交于 12月 28, 2022
  
  02019804
22 12月, 2022 2 次提交
- W
  
  fix int64 (#49265) · 1172df96
  由 Wangzheee 提交于 12月 22, 2022
  
  1172df96
- X
  
  ir_params_sync_release (#49051) · 502f5e88
  由 xiaoxiaohehe001 提交于 12月 22, 2022
  
  502f5e88
21 12月, 2022 1 次提交

Refactor Pass for fused_conv (#48848) · 7f0eb2e3

由 zyfncg 提交于 12月 21, 2022

* refactor conv_activation_mkldnn_fuse_pass

* refactor conv_affine_channel_mkldnn_fuse_pass

* fix conv_activation_mkldnn_fuse_pass

* fix mkldnn unittest

* refactor int8_scale_calculation_mkldnn_pass and params_quantization_mkldnn_pass

* refactor conv_elementwise_add_mkldnn_fuse_pass

* fix quant

* refactor conv_bn_fuse_pass

* fix conv_bn_fuse_pass

* refactor depthwise_conv_bn_fuse_pass

* fix unittest

* fix conv_bn_fuse_pass

* remove redundant conv2d in params_quantization_mkldnn_pass

* fix params_quantization_mkldnn_pass_tester

7f0eb2e3

15 12月, 2022 1 次提交
- Z
  [inference] move IsFloatVar() from tensorrt/ to api/ (#49070) · 2190ea09
  由 Zhang Jun 提交于 12月 15, 2022
```
* move IsFloatVar() from tensorrt/ to api/
```
  2190ea09
14 12月, 2022 1 次提交
- Y
  
  [Paddle Inference] rewrite convert_to_mixed_precision (#48853) · 28ea9aad
  由 Yuanle Liu 提交于 12月 14, 2022
  
  28ea9aad
13 12月, 2022 1 次提交
- E
  
  enable custom device save model on device memory && fix conflict (#48221) · b6aa9f53
  由 engineer1109 提交于 12月 13, 2022
  
  b6aa9f53
10 12月, 2022 1 次提交
- Z
  [Paddle-TRT] add cast between int64 tensor and Paddle-TRT (#45547) · fd373579
  由 zhoutianzi666 提交于 12月 10, 2022
```
* Add cast between int64 tensor and Paddle-TRT
* Add Unit testing.
```
  fd373579
09 12月, 2022 1 次提交
- Y
  [Inference] optimize some code and fix some bug (#48780) · c0034b5b
  由 Yuanle Liu 提交于 12月 09, 2022
```
* clean ir_pass_manager and fix map_depthwise_conv_to_conv_pass

* fix unitest timeout
```
  c0034b5b
08 12月, 2022 2 次提交
- W
  
  [Inference] Enable infer shape cache. (#48312) · f88713e1
  由 Wilber 提交于 12月 08, 2022
  
  f88713e1
- W
  
  [Inference] inference add cinn interface (#48741) · 3a387df6
  由 Wilber 提交于 12月 08, 2022
  
  3a387df6
06 12月, 2022 1 次提交
- Y
  
  [Paddle Inference] Add float_to_half_pass to support inference with mixed precision (#47993) · c5a45cc6
  由 Yuanle Liu 提交于 12月 06, 2022
  
  c5a45cc6

PaddlePaddle / Paddle 大约 1 年 前同步成功

PaddlePaddle / Paddle
大约 1 年前同步成功