diff --git a/fluid/PaddleCV/deeplabv3+/README.md b/fluid/PaddleCV/deeplabv3+/README.md index 3a075c89c60279e2304a5a204745fdffc2462d7b..b9990a20845f637eb3611f4875213a657b4491d8 100644 --- a/fluid/PaddleCV/deeplabv3+/README.md +++ b/fluid/PaddleCV/deeplabv3+/README.md @@ -1,4 +1,4 @@ -DeepLab运行本目录下的程序示例需要使用PaddlePaddle Fluid v1.0.0版本或以上。如果您的PaddlePaddle安装版本低于此要求，请按照安装文档中的说明更新PaddlePaddle安装版本，如果使用GPU，该程序需要使用cuDNN v7版本。 +DeepLab运行本目录下的程序示例需要使用PaddlePaddle Fluid v1.3.0版本或以上。如果您的PaddlePaddle安装版本低于此要求，请按照安装文档中的说明更新PaddlePaddle安装版本，如果使用GPU，该程序需要使用cuDNN v7版本。 ## 代码结构 @@ -38,15 +38,16 @@ data/cityscape/ # 预训练模型准备 +我们为了节约更多的显存，在这里我们使用Group Norm作为我们的归一化手段。 如果需要从头开始训练模型，用户需要下载我们的初始化模型 ``` -wget https://paddle-deeplab.bj.bcebos.com/deeplabv3plus_xception65_initialize.tgz -tar -xf deeplabv3plus_xception65_initialize.tgz && rm deeplabv3plus_xception65_initialize.tgz +wget https://paddle-deeplab.bj.bcebos.com/deeplabv3plus_gn_init.tgz +tar -xf deeplabv3plus_gn_init.tgz && rm deeplabv3plus_gn_init.tgz ``` 如果需要最终训练模型进行fine tune或者直接用于预测，请下载我们的最终模型 ``` -wget https://paddle-deeplab.bj.bcebos.com/deeplabv3plus.tgz -tar -xf deeplabv3plus.tgz && rm deeplabv3plus.tgz +wget https://paddle-deeplab.bj.bcebos.com/deeplabv3plus_gn.tgz +tar -xf deeplabv3plus_gn.tgz && rm deeplabv3plus_gn.tgz ``` @@ -59,6 +60,7 @@ python ./train.py \ --batch_size=1 \ --train_crop_size=769 \ --total_step=50 \ + --norm_type=gn \ --init_weights_path=$INIT_WEIGHTS_PATH \ --save_weights_path=$SAVE_WEIGHTS_PATH \ --dataset_path=$DATASET_PATH @@ -72,19 +74,25 @@ python train.py --help ``` python ./train.py \ --batch_size=8 \ - --parallel=true \ + --parallel=True \ + --norm_type=gn \ --train_crop_size=769 \ --total_step=90000 \ - --init_weights_path=deeplabv3plus_xception65_initialize.params \ - --save_weights_path=output/ \ + --base_lr=0.001 \ + --init_weights_path=deeplabv3plus_gn_init \ + --save_weights_path=output \ --dataset_path=$DATASET_PATH ``` +如果您的显存不足，可以尝试减小`batch_size`，同时等比例放大`total_step`, 保证相乘的值不变，这得益于Group Norm的特性，改变 `batch_size` 并不会显著影响结果，而且能够节约更多显存, 比如您可以设置`--batch_size=4 --total_step=180000`。 + +如果您希望使用多卡进行训练，可以同比增加`batch_size`，减小`total_step`, 比如原来单卡训练是`--batch_size=4 --total_step=180000`，使用4卡训练则是`--batch_size=16 --total_step=45000` ### 测试 执行以下命令在`Cityscape`测试数据集上进行测试： ``` python ./eval.py \ - --init_weights=deeplabv3plus.params \ + --init_weights=deeplabv3plus_gn \ + --norm_type=gn \ --dataset_path=$DATASET_PATH ``` 需要通过选项`--model_path`指定模型文件。测试脚本的输出的评估指标为mean IoU。 @@ -93,16 +101,17 @@ python ./eval.py \ ## 实验结果 训练完成以后，使用`eval.py`在验证集上进行测试，得到以下结果： ``` -load from: ../models/deeplabv3p +load from: ../models/deeplabv3plus_gn total number 500 -step: 500, mIoU: 0.7873 +step: 500, mIoU: 0.7881 ``` ## 其他信息 -|数据集 | pretrained model | trained model | mean IoU -|---|---|---|---| -|CityScape | [deeplabv3plus_xception65_initialize.tgz](https://paddle-deeplab.bj.bcebos.com/deeplabv3plus_xception65_initialize.tgz) | [deeplabv3plus.tgz](https://paddle-deeplab.bj.bcebos.com/deeplabv3plus.tgz) | 0.7873 | +|数据集 | norm type | pretrained model | trained model | mean IoU +|---|---|---|---|---| +|CityScape | batch norm | [deeplabv3plus_xception65_initialize.tgz](https://paddle-deeplab.bj.bcebos.com/deeplabv3plus_xception65_initialize.tgz) | [deeplabv3plus.tgz](https://paddle-deeplab.bj.bcebos.com/deeplabv3plus.tgz) | 0.7873 | +|CityScape | group norm | [deeplabv3plus_gn_init.tgz](https://paddle-deeplab.bj.bcebos.com/deeplabv3plus_gn_init.tgz) | [deeplabv3plus_gn.tgz](https://paddle-deeplab.bj.bcebos.com/deeplabv3plus_gn.tgz) | 0.7881 | ## 参考 diff --git a/fluid/PaddleCV/deeplabv3+/eval.py b/fluid/PaddleCV/deeplabv3+/eval.py index 6137af412f05c8d664e8f67cfc5ce6a3edad8574..4620dd5d7cb9c91735619478a550c3a4cc747aa6 100644 --- a/fluid/PaddleCV/deeplabv3+/eval.py +++ b/fluid/PaddleCV/deeplabv3+/eval.py @@ -27,6 +27,7 @@ add_arg('verbose', bool, False, "Print mIoU for each step if ver add_arg('use_gpu', bool, True, "Whether use GPU or CPU.") add_arg('num_classes', int, 19, "Number of classes.") add_arg('use_py_reader', bool, True, "Use py_reader.") +add_arg('norm_type', str, 'bn', "Normalization type, should be 'bn' or 'gn'.") #yapf: enable @@ -58,6 +59,7 @@ args = parser.parse_args() models.clean() models.is_train = False +models.default_norm_type = args.norm_type deeplabv3p = models.deeplabv3p image_shape = [1025, 2049] diff --git a/fluid/PaddleCV/deeplabv3+/train.py b/fluid/PaddleCV/deeplabv3+/train.py index 9a0f9f6ca2c63cb57a29d10cb66779c752b73126..4a3d22e0c97132314cee0430feae7276d371bf01 100755 --- a/fluid/PaddleCV/deeplabv3+/train.py +++ b/fluid/PaddleCV/deeplabv3+/train.py @@ -4,7 +4,6 @@ from __future__ import print_function import os if 'FLAGS_fraction_of_gpu_memory_to_use' not in os.environ: os.environ['FLAGS_fraction_of_gpu_memory_to_use'] = '0.98' -os.environ['FLAGS_enable_parallel_graph'] = '1' import paddle import paddle.fluid as fluid @@ -34,7 +33,7 @@ add_arg('use_gpu', bool, True, "Whether use GPU or CPU.") add_arg('num_classes', int, 19, "Number of classes.") add_arg('load_logit_layer', bool, True, "Load last logit fc layer or not. If you are training with different number of classes, you should set to False.") add_arg('memory_optimize', bool, True, "Using memory optimizer.") -add_arg('norm_type', str, 'bn', "Normalization type, should be bn or gn.") +add_arg('norm_type', str, 'bn', "Normalization type, should be 'bn' or 'gn'.") add_arg('profile', bool, False, "Enable profiler.") add_arg('use_py_reader', bool, True, "Use py reader.") parser.add_argument( @@ -52,6 +51,13 @@ def profile_context(profile=True): yield def load_model(): + load_vars = [ + x for x in tp.list_vars() + if isinstance(x, fluid.framework.Parameter) and x.name.find('image_pool') == + -1 + ] + fluid.io.load_vars(exe, dirname=args.init_weights_path, vars=load_vars) + return if os.path.isdir(args.init_weights_path): load_vars = [ x for x in tp.list_vars() @@ -225,7 +231,6 @@ with profile_context(args.profile): print("Training done. Model is saved to", args.save_weights_path) save_model() -py_reader.stop() if args.enable_ce: gpu_num = fluid.core.get_cuda_device_count()