Skip to content

P
PaddleClas

PaddlePaddle / PaddleClas
大约 1 年 前同步成功

通知 115
Star 4999
Fork 1114
P
PaddleClas
提交 d59d68f2 编写于 作者: H HydrogenSulfate
浏览文件
操作

debug

上级 7990a12e
隐藏空白更改
内联 并排
Showing with 116 addition and 78 deletion
test_tipc/docs/test_inference_cpp.md
浏览文件 @ d59d68f2
...@@ -6,31 +6,37 @@ Linux GPU/CPU C++ 推理功能测试的主程序为`test_inference_cpp.sh`，可 ...@@ -6,31 +6,37 @@ Linux GPU/CPU C++ 推理功能测试的主程序为`test_inference_cpp.sh`，可
- 推理相关： - 推理相关：
| 算法名称 | 模型名称 | device_CPU | device_GPU | | 算法名称 | 模型名称 | device_CPU | device_GPU |
| :-------------: | :----------------------------------------: | :--------: | :--------: | | :-------------: | :------------------------------------------: | :--------: | :--------: |
| MobileNetV3 | MobileNetV3_large_x1_0 | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0 | 支持 | 支持 |
| MobileNetV3 | MobileNetV3_large_x1_0_KL | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0_KL | 支持 | 支持 |
| PP-ShiTu | PPShiTu_general_rec、PPShiTu_mainbody_det | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0_PACT | 支持 | 支持 |
| PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_KL | 支持 | 支持 | | PP-ShiTu | PPShiTu_general_rec、PPShiTu_mainbody_det | 支持 | 支持 |
| PPHGNet | PPHGNet_small | 支持 | 支持 | | PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_KL | 支持 | 支持 |
| PPHGNet | PPHGNet_small_KL | 支持 | 支持 | | PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_PACT | 支持 | 支持 |
| PPHGNet | PPHGNet_tiny | 支持 | 支持 | | PPHGNet | PPHGNet_small | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_25 | 支持 | 支持 | | PPHGNet | PPHGNet_small_KL | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_35 | 支持 | 支持 | | PPHGNet | PPHGNet_small_PACT | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_5 | 支持 | 支持 | | PPHGNet | PPHGNet_tiny | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_75 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_25 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_0 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_35 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_0_KL | 支持 | 支持 | | PPLCNet | PPLCNet_x0_5 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_5 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_75 | 支持 | 支持 |
| PPLCNet | PPLCNet_x2_0 | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0 | 支持 | 支持 |
| PPLCNet | PPLCNet_x2_5 | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0_KL | 支持 | 支持 |
| PPLCNetV2 | PPLCNetV2_base | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0_PACT | 支持 | 支持 |
| PPLCNetV2 | PPLCNetV2_base_KL | 支持 | 支持 | | PPLCNet | PPLCNet_x1_5 | 支持 | 支持 |
| ResNet | ResNet50 | 支持 | 支持 | | PPLCNet | PPLCNet_x2_0 | 支持 | 支持 |
| ResNet | ResNet50_vd | 支持 | 支持 | | PPLCNet | PPLCNet_x2_5 | 支持 | 支持 |
| ResNet | ResNet50_vd_KL | 支持 | 支持 | | PPLCNetV2 | PPLCNetV2_base | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224 | 支持 | 支持 | | PPLCNetV2 | PPLCNetV2_base_KL | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_KL | 支持 | 支持 | | ResNet | ResNet50 | 支持 | 支持 |
| ResNet | ResNet50_vd | 支持 | 支持 |
| ResNet | ResNet50_vd_KL | 支持 | 支持 |
| ResNet | ResNet50_vd_PACT | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224 | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_KL | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_PACT | 支持 | 支持 |
## 2. 测试流程(以**ResNet50**为例) ## 2. 测试流程(以**ResNet50**为例)
......
test_tipc/docs/test_serving_infer_cpp.md
浏览文件 @ d59d68f2
...@@ -7,31 +7,37 @@ Linux GPU/CPU C++ 服务化部署测试的主程序为`test_serving_infer_cpp.sh ...@@ -7,31 +7,37 @@ Linux GPU/CPU C++ 服务化部署测试的主程序为`test_serving_infer_cpp.sh
- 推理相关： - 推理相关：
| 算法名称 | 模型名称 | device_CPU | device_GPU | | 算法名称 | 模型名称 | device_CPU | device_GPU |
| :-------------: | :----------------------------------------: | :--------: | :--------: | | :-------------: | :------------------------------------------: | :--------: | :--------: |
| MobileNetV3 | MobileNetV3_large_x1_0 | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0 | 支持 | 支持 |
| MobileNetV3 | MobileNetV3_large_x1_0_KL | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0_KL | 支持 | 支持 |
| PP-ShiTu | PPShiTu_general_rec、PPShiTu_mainbody_det | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0_PACT | 支持 | 支持 |
| PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_KL | 支持 | 支持 | | PP-ShiTu | PPShiTu_general_rec、PPShiTu_mainbody_det | 支持 | 支持 |
| PPHGNet | PPHGNet_small | 支持 | 支持 | | PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_KL | 支持 | 支持 |
| PPHGNet | PPHGNet_small_KL | 支持 | 支持 | | PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_PACT | 支持 | 支持 |
| PPHGNet | PPHGNet_tiny | 支持 | 支持 | | PPHGNet | PPHGNet_small | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_25 | 支持 | 支持 | | PPHGNet | PPHGNet_small_KL | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_35 | 支持 | 支持 | | PPHGNet | PPHGNet_small_PACT | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_5 | 支持 | 支持 | | PPHGNet | PPHGNet_tiny | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_75 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_25 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_0 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_35 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_0_KL | 支持 | 支持 | | PPLCNet | PPLCNet_x0_5 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_5 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_75 | 支持 | 支持 |
| PPLCNet | PPLCNet_x2_0 | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0 | 支持 | 支持 |
| PPLCNet | PPLCNet_x2_5 | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0_KL | 支持 | 支持 |
| PPLCNetV2 | PPLCNetV2_base | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0_PACT | 支持 | 支持 |
| PPLCNetV2 | PPLCNetV2_base_KL | 支持 | 支持 | | PPLCNet | PPLCNet_x1_5 | 支持 | 支持 |
| ResNet | ResNet50 | 支持 | 支持 | | PPLCNet | PPLCNet_x2_0 | 支持 | 支持 |
| ResNet | ResNet50_vd | 支持 | 支持 | | PPLCNet | PPLCNet_x2_5 | 支持 | 支持 |
| ResNet | ResNet50_vd_KL | 支持 | 支持 | | PPLCNetV2 | PPLCNetV2_base | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224 | 支持 | 支持 | | PPLCNetV2 | PPLCNetV2_base_KL | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_KL | 支持 | 支持 | | ResNet | ResNet50 | 支持 | 支持 |
| ResNet | ResNet50_vd | 支持 | 支持 |
| ResNet | ResNet50_vd_KL | 支持 | 支持 |
| ResNet | ResNet50_vd_PACT | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224 | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_KL | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_PACT | 支持 | 支持 |
## 2. 测试流程 ## 2. 测试流程
......
test_tipc/docs/test_serving_infer_python.md
浏览文件 @ d59d68f2
...@@ -7,31 +7,37 @@ Linux GPU/CPU PYTHON 服务化部署测试的主程序为`test_serving_infer_pyt ...@@ -7,31 +7,37 @@ Linux GPU/CPU PYTHON 服务化部署测试的主程序为`test_serving_infer_pyt
- 推理相关： - 推理相关：
| 算法名称 | 模型名称 | device_CPU | device_GPU | | 算法名称 | 模型名称 | device_CPU | device_GPU |
| :-------------: | :----------------------------------------: | :--------: | :--------: | | :-------------: | :------------------------------------------: | :--------: | :--------: |
| MobileNetV3 | MobileNetV3_large_x1_0 | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0 | 支持 | 支持 |
| MobileNetV3 | MobileNetV3_large_x1_0_KL | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0_KL | 支持 | 支持 |
| PP-ShiTu | PPShiTu_general_rec、PPShiTu_mainbody_det | 支持 | 支持 | | MobileNetV3 | MobileNetV3_large_x1_0_PACT | 支持 | 支持 |
| PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_KL | 支持 | 支持 | | PP-ShiTu | PPShiTu_general_rec、PPShiTu_mainbody_det | 支持 | 支持 |
| PPHGNet | PPHGNet_small | 支持 | 支持 | | PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_KL | 支持 | 支持 |
| PPHGNet | PPHGNet_small_KL | 支持 | 支持 | | PP-ShiTu | GeneralRecognition_PPLCNet_x2_5_PACT | 支持 | 支持 |
| PPHGNet | PPHGNet_tiny | 支持 | 支持 | | PPHGNet | PPHGNet_small | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_25 | 支持 | 支持 | | PPHGNet | PPHGNet_small_KL | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_35 | 支持 | 支持 | | PPHGNet | PPHGNet_small_PACT | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_5 | 支持 | 支持 | | PPHGNet | PPHGNet_tiny | 支持 | 支持 |
| PPLCNet | PPLCNet_x0_75 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_25 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_0 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_35 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_0_KL | 支持 | 支持 | | PPLCNet | PPLCNet_x0_5 | 支持 | 支持 |
| PPLCNet | PPLCNet_x1_5 | 支持 | 支持 | | PPLCNet | PPLCNet_x0_75 | 支持 | 支持 |
| PPLCNet | PPLCNet_x2_0 | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0 | 支持 | 支持 |
| PPLCNet | PPLCNet_x2_5 | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0_KL | 支持 | 支持 |
| PPLCNetV2 | PPLCNetV2_base | 支持 | 支持 | | PPLCNet | PPLCNet_x1_0_PACT | 支持 | 支持 |
| PPLCNetV2 | PPLCNetV2_base_KL | 支持 | 支持 | | PPLCNet | PPLCNet_x1_5 | 支持 | 支持 |
| ResNet | ResNet50 | 支持 | 支持 | | PPLCNet | PPLCNet_x2_0 | 支持 | 支持 |
| ResNet | ResNet50_vd | 支持 | 支持 | | PPLCNet | PPLCNet_x2_5 | 支持 | 支持 |
| ResNet | ResNet50_vd_KL | 支持 | 支持 | | PPLCNetV2 | PPLCNetV2_base | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224 | 支持 | 支持 | | PPLCNetV2 | PPLCNetV2_base_KL | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_KL | 支持 | 支持 | | ResNet | ResNet50 | 支持 | 支持 |
| ResNet | ResNet50_vd | 支持 | 支持 |
| ResNet | ResNet50_vd_KL | 支持 | 支持 |
| ResNet | ResNet50_vd_PACT | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224 | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_KL | 支持 | 支持 |
| SwinTransformer | SwinTransformer_tiny_patch4_window7_224_PACT | 支持 | 支持 |
## 2. 测试流程 ## 2. 测试流程
......
test_tipc/prepare.sh
浏览文件 @ d59d68f2
...@@ -106,6 +106,14 @@ if [[ ${MODE} = "cpp_infer" ]]; then ...@@ -106,6 +106,14 @@ if [[ ${MODE} = "cpp_infer" ]]; then
model_dir=${tar_name%.*} model_dir=${tar_name%.*}
eval "tar xf ${tar_name}" eval "tar xf ${tar_name}"
# move '_int8' suffix in pact models
if [[ ${tar_name} =~ "pact_infer" ]]; then
cd ${cls_inference_model_dir}
mv inference_int8.pdiparams inference.pdiparams
mv inference_int8.pdmodel inference.pdmodel
cd ..
fi
cd dataset cd dataset
rm -rf ILSVRC2012 rm -rf ILSVRC2012
wget -nc https://paddle-imagenet-models-name.bj.bcebos.com/data/whole_chain/whole_chain_infer.tar wget -nc https://paddle-imagenet-models-name.bj.bcebos.com/data/whole_chain/whole_chain_infer.tar
...@@ -229,7 +237,18 @@ if [[ ${MODE} = "serving_infer" ]]; then ...@@ -229,7 +237,18 @@ if [[ ${MODE} = "serving_infer" ]]; then
cls_inference_model_url=$(func_parser_value "${lines[3]}") cls_inference_model_url=$(func_parser_value "${lines[3]}")
cls_tar_name=$(func_get_url_file_name "${cls_inference_model_url}") cls_tar_name=$(func_get_url_file_name "${cls_inference_model_url}")
cd ./deploy/paddleserving cd ./deploy/paddleserving
wget -nc ${cls_inference_model_url} && tar xf ${cls_tar_name} wget -nc ${cls_inference_model_url}
tar xf ${cls_tar_name}
# move '_int8' suffix in pact models
if [[ ${cls_tar_name} =~ "pact_infer" ]]; then
cls_inference_model_dir=${cls_tar_name%%.tar}
cd ${cls_inference_model_dir}
mv inference_int8.pdiparams inference.pdiparams
mv inference_int8.pdmodel inference.pdmodel
cd ..
fi
cd ../../ cd ../../
fi fi
unset http_proxy unset http_proxy
......
test_tipc/test_serving_infer_python.sh
浏览文件 @ d59d68f2
...@@ -2,6 +2,7 @@ ...@@ -2,6 +2,7 @@
source test_tipc/common_func.sh source test_tipc/common_func.sh
FILENAME=$1 FILENAME=$1
MODE=$2
dataline=$(awk 'NR==1, NR==19{print}' $FILENAME) dataline=$(awk 'NR==1, NR==19{print}' $FILENAME)
# parser params # parser params
...@@ -38,7 +39,7 @@ pipeline_py=$(func_parser_value "${lines[13]}") ...@@ -38,7 +39,7 @@ pipeline_py=$(func_parser_value "${lines[13]}")
function func_serving_cls(){ function func_serving_cls(){
LOG_PATH="test_tipc/output/${model_name}" LOG_PATH="test_tipc/output/${model_name}/${MODE}"
mkdir -p ${LOG_PATH} mkdir -p ${LOG_PATH}
LOG_PATH="../../${LOG_PATH}" LOG_PATH="../../${LOG_PATH}"
status_log="${LOG_PATH}/results_serving.log" status_log="${LOG_PATH}/results_serving.log"
...@@ -153,7 +154,7 @@ function func_serving_cls(){ ...@@ -153,7 +154,7 @@ function func_serving_cls(){
function func_serving_rec(){ function func_serving_rec(){
LOG_PATH="test_tipc/output/${model_name}" LOG_PATH="test_tipc/output/${model_name}/${MODE}"
mkdir -p ${LOG_PATH} mkdir -p ${LOG_PATH}
LOG_PATH="../../../${LOG_PATH}" LOG_PATH="../../../${LOG_PATH}"
status_log="${LOG_PATH}/results_serving.log" status_log="${LOG_PATH}/results_serving.log"
......
Markdown is supported
0% 或 .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑！
想要评论请 注册 或