polish lovasz_loss.md

docs/lovasz_loss.md

@@ -4,15 +4,16 @@
 Lovasz loss基于子模损失(submodular losses)的凸Lovasz扩展，对神经网络的mean IoU损失进行优化。Lovasz loss根据分割目标的类别数量可分为两种：lovasz hinge loss和lovasz softmax loss. 其中lovasz hinge loss适用于二分类问题，lovasz softmax loss适用于多分类问题。该工作发表在CVPR 2018上，可点击[参考文献](#参考文献)查看具体原理。
 
 
-## Lovasz hinge loss
-### 使用指南
+## Lovasz loss使用指南
+接下来介绍如何使用lovasz loss进行训练。需要注意的是，通常的直接训练方式并一定管用，我们推荐另外2种训练方式：
+- （1）与softmax loss或bce loss(binary cross-entropy loss)加权结合使用。
+- （2）先使用softmax loss或bec loss进行训练，再使用lovasz softmax loss或lovasz hinge loss进行finetuning.
 
-PaddleSeg通过`cfg.SOLVER.LOSS`参数可以选择训练时的损失函数，
-如`cfg.SOLVER.LOSS=['lovasz_hinge_loss','bce_loss']`将指定训练loss为`lovasz hinge loss`与`bce loss`(binary cross-entropy loss)的组合。
+配置lovasz loss仅需要设定2个参数：
 
-Lovasz hinge loss有3种使用方式：（1）直接训练使用。（2）bce loss结合使用。（3）先使用bec loss进行训练，再使用lovasz hinge loss进行finetuning. 第1种方式不一定达到理想效果，推荐使用后两种方式。本文以第2种方式为例。
+首先通过`cfg.SOLVER.LOSS`参数选择训练时的损失函数， 例如`cfg.SOLVER.LOSS=['lovasz_hinge_loss','bce_loss']`将指定训练loss为lovasz hinge loss与bce loss的组合。`cfg.SOLVER.LOSS=['lovasz_softmax_loss','softmax_loss']`将指定训练loss为lovasz softmax loss与softmax loss的组合。
 
-同时，也可以通过`cfg.SOLVER.LOSS_WEIGHT`参数对不同loss进行权重配比，灵活运用于训练调参。如下所示
+其次，也可以通过`cfg.SOLVER.LOSS_WEIGHT`参数对不同loss进行权重配比，从而灵活地进行训练调参。Lovasz hinge loss配置位于`PaddleSeg/configs/lovasz_hinge_deeplabv3p_mobilenet_road.yaml`，如下所示：
 ```yaml
 SOLVER:
     LOSS: ["lovasz_hinge_loss","bce_loss"]
@@ -21,15 +22,24 @@ SOLVER:
         BCE_LOSS: 0.5
 ```
 
-### 实验对比
+Lovasz softmax loss配置位于`PaddleSeg/configs/lovasz_softmax_deeplabv3p_mobilenet_pascal.yaml`，如下所示：
+
+```yaml
+SOLVER:
+    LOSS: ["lovasz_softmax_loss","softmax_loss"]
+    LOSS_WEIGHT:
+        LOVASZ_SOFTMAX_LOSS: 0.2
+        SOFTMAX_LOSS: 0.8
+```
+
+## Lovasz hinge loss实验对比
 
 我们以道路提取任务为例应用lovasz hinge loss.
 基于MiniDeepGlobeRoadExtraction数据集与bce loss进行了实验对比。
-该数据集来源于DeepGlobe比赛的Road Extraction单项，训练数据道路占比为：4.5%. 如下为其图片样例：
+该数据集来源于DeepGlobe比赛的Road Extraction单项，训练数据道路占比为：4.5%. 道路在整张图片中的比例很小，是典型的类别不均衡场景。图片样例如下：
 <p align="center">
   <img src="./imgs/deepglobe.png" hspace='10'/> <br />
  </p>
-可以看出道路在整张图片中的比例很小。
 
 为进行快速体验，这里使用DeepLabv3+模型，backbone为MobileNetV2.
 
@@ -62,33 +72,21 @@ python pdseg/eval.py --cfg ./configs/lovasz_hinge_deeplabv3p_mobilenet_road.yaml
 
 * 结果比较
 
-lovasz hinge loss + bce loss和softmax loss的对比结果如下图所示。
+lovasz hinge loss + bce loss和softmax loss的mIoU曲线如下图所示。
 <p align="center">
   <img src="./imgs/lovasz-hinge.png" hspace='10'/> <br />
  </p>
 
 图中蓝色曲线为lovasz hinge loss + bce loss，最高mIoU为76.2%，橙色曲线为softmax loss， 最高mIoU为73.44%，相比提升2.76个百分点。
 
+分割效果如下：
+<p align="center">
+  <img src="./imgs/lovasz-hinge-vis.png" hspace='10'/> <br />
+ </p>
 
+可以看出，softmax loss训练的结果中道路并不连续，主干道部分缺失尤为严重。而lovasz loss训练的结果提升显著，主干道并无缺失，连小路也基本连续。
 
-## Lovasz softmax loss
-### 使用指南
-
-PaddleSeg通过`cfg.SOLVER.LOSS`参数可以选择训练时的损失函数，
-如`cfg.SOLVER.LOSS=['lovasz_softmax_loss','softmax_loss']`将指定训练loss为`lovasz softmax loss`与`softmax loss`的组合。
-
-Lovasz softmax loss有3种使用方式：（1）直接训练使用。（2）softmax loss结合使用。（3）先使用softmax loss进行训练，再使用lovasz softmax loss进行finetuning. 第1种方式不一定达到理想效果，推荐使用后两种方式。本文以第2种方式为例。
-
-同时，也可以通过`cfg.SOLVER.LOSS_WEIGHT`参数对不同loss进行权重配比，灵活运用于训练调参。如下所示
-```yaml
-SOLVER:
-    LOSS: ["lovasz_softmax_loss","softmax_loss"]
-    LOSS_WEIGHT:
-        LOVASZ_SOFTMAX_LOSS: 0.2
-        SOFTMAX_LOSS: 0.8
-```
-
-### 实验对比
+## Lovasz softmax loss实验对比
 
 接下来以PASCAL VOC 2012数据集为例应用lovasz softmax loss. 我们将lovasz softmax loss与softmax loss进行了实验对比。为进行快速体验，这里使用DeepLabv3+模型，backbone为MobileNetV2.
 
@@ -125,7 +123,7 @@ python pdseg/eval.py --cfg ./configs/lovasz_softmax_deeplabv3p_mobilenet_pascal.
 
 * 结果比较
 
-lovasz softmax loss + softmax loss和softmax loss的对比结果如下图所示。
+lovasz softmax loss + softmax loss和softmax loss的mIoU曲线如下图所示。
 <p align="center">
   <img src="./imgs/lovasz-softmax.png" hspace='10' /> <br />
  </p>