PaddleSlim#

PaddleSlim是PaddlePaddle框架的一个子模块，主要用于压缩图像领域模型。在PaddleSlim中，不仅实现了目前主流的网络剪枝、量化、蒸馏三种压缩策略，还实现了超参数搜索和小模型网络结构搜索功能。在后续版本中，会添加更多的压缩策略，以及完善对NLP领域模型的支持。

功能#

  • 模型剪裁
  • 支持通道均匀模型剪裁（uniform pruning)
  • 基于敏感度的模型剪裁

  • 基于进化算法的自动模型剪裁三种方式

  • 量化训练

  • 在线量化训练（training aware）
  • 离线量化（post training）

  • 支持对权重全局量化和Channel-Wise量化

  • 蒸馏

  • 轻量神经网络结构自动搜索（Light-NAS）

  • 支持基于进化算法的轻量神经网络结构自动搜索（Light-NAS）
  • 支持 FLOPS / 硬件延时约束
  • 支持多平台模型延时评估

安装#

安装PaddleSlim前，请确认已正确安装Paddle1.6版本或更新版本。Paddle安装请参考：Paddle安装教程。

  • 安装develop版本
git clone https://github.com/PaddlePaddle/PaddleSlim.git
cd PaddleSlim
python setup.py install
  • 安装官方发布的最新版本
pip install paddleslim -i https://pypi.org/simple
  • 安装历史版本

请点击pypi.org查看可安装历史版本。

使用#

  • API文档：API使用介绍，包括蒸馏、剪裁、量化和模型结构搜索。
  • 示例：基于mnist和cifar10等简单分类任务的模型压缩示例，您可以通过该部分快速体验和了解PaddleSlim的功能。
  • 实践教程：经典模型的分析和压缩实验教程。
  • 模型库：经过压缩的分类、检测、语义分割模型，包括权重文件、网络结构文件和性能数据。
  • Paddle检测库：介绍如何在检测库中使用PaddleSlim。
  • Paddle分割库：介绍如何在分割库中使用PaddleSlim。
  • PaddleLite：介绍如何使用预测库PaddleLite部署PaddleSlim产出的模型。

贡献与反馈#