Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
PaddleSlim
提交
07e06985
P
PaddleSlim
项目概览
PaddlePaddle
/
PaddleSlim
大约 2 年 前同步成功
通知
51
Star
1434
Fork
344
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
53
列表
看板
标记
里程碑
合并请求
16
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
PaddleSlim
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
53
Issue
53
列表
看板
标记
里程碑
合并请求
16
合并请求
16
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
07e06985
编写于
8月 16, 2022
作者:
G
Guanghua Yu
提交者:
GitHub
8月 16, 2022
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
update paddleslim readme (#1348)
上级
dfcc3c2b
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
31 addition
and
19 deletion
+31
-19
README.md
README.md
+31
-19
未找到文件。
README.md
浏览文件 @
07e06985
...
...
@@ -4,40 +4,51 @@
</p>
<p
align=
"center"
>
<a
href=
"./LICENSE"
><img
src=
"https://img.shields.io/badge/license-Apache%202-blue.svg"
></a>
<a
href=
"https://paddleslim.readthedocs.io/en/latest/"
><img
src=
"https://img.shields.io/badge/docs-latest-brightgreen.svg?style=flat"
></a>
<a
href=
"https://paddleslim.readthedocs.io/zh_CN/latest/"
><img
src=
"https://img.shields.io/badge/中文文档-最新-brightgreen.svg"
></a>
<a
href=
"./LICENSE"
><img
src=
"https://img.shields.io/badge/license-Apache%202-dfd.svg"
></a>
<a
href=
"https://github.com/PaddlePaddle/PaddleSlim/releases"
><img
src=
"https://img.shields.io/github/v/release/PaddlePaddle/Paddle?color=ffa"
></a>
<a
href=
""
><img
src=
"https://img.shields.io/badge/python-3.6.2+-aff.svg"
></a>
<a
href=
""
><img
src=
"https://img.shields.io/badge/os-linux%2C%20win%2C%20mac-pink.svg"
></a>
<a
href=
"https://github.com/PaddlePaddle/PaddleSlim/graphs/contributors"
><img
src=
"https://img.shields.io/github/contributors/PaddlePaddle/PaddleSlim?color=9ea"
></a>
<a
href=
"https://pypi.org/project/PaddleSlim/"
><img
src=
"https://img.shields.io/pypi/dm/PaddleSlim?color=9cf"
></a>
<a
href=
"https://github.com/PaddlePaddle/PaddleSlim/issues"
><img
src=
"https://img.shields.io/github/issues/PaddlePaddle/PaddleSlim?color=9cc"
></a>
<a
href=
"https://github.com/PaddlePaddle/PaddleSlim/stargazers"
><img
src=
"https://img.shields.io/github/stars/PaddlePaddle/PaddleSlim?color=ccf"
></a>
</p>
PaddleSlim是一个专注于深度学习模型压缩的工具库,提供
**低比特量化、知识蒸馏、稀疏化和模型结构搜索**
等模型压缩策略,帮助
用户
快速实现模型的小型化。
PaddleSlim是一个专注于深度学习模型压缩的工具库,提供
**低比特量化、知识蒸馏、稀疏化和模型结构搜索**
等模型压缩策略,帮助
开发者
快速实现模型的小型化。
## 产品动态
-
🔥
**2022.08.16:自动化压缩功能升级**
-
支持直接加载ONNX模型和Paddle模型导出至ONNX
-
发布量化分析工具试用版,发布
[
YOLO系列离线量化工具
](
example/post_training_quantization/pytorch_yolo_series/
)
-
更新
[
YOLO-Series自动化压缩模型库
](
example/auto_compression/pytorch_yolo_series
)
| 模型 | Base mAP
<sup>
val
<br>
0.5:0.95 | ACT量化mAP
<sup>
val
<br>
0.5:0.95 | 模型体积压缩比 | 预测时延
<sup><small>
FP32
</small><sup><br><sup>
| 预测时延
<sup><small>
INT8
</small><sup><br><sup>
| 预测加速比 |
| :-------- |:-------- |:--------: | :--------: | :---------------------: | :----------------: | :----------------: |
| PPYOLOE-s | 43.1 | 42.6 | 3.9倍 | 6.51ms | 2.12ms | 3.1倍 |
| YOLOv5s | 37.4 | 36.9 | 3.8倍 | 5.95ms | 1.87ms | 3.2倍 |
| YOLOv6s | 42.4 | 41.3 | 3.9倍 | 9.06ms | 1.83ms | 5.0倍 |
| YOLOv7 | 51.1 | 50.9 | 3.9倍 | 26.84ms | 4.55ms | 5.9倍 |
| YOLOv7-Tiny | 37.3 | 37.0 | 3.9倍 | 5.06ms | 1.68ms | 3.0倍 |
-
🔥
**2022.07.01: 发布[v2.3.0版本](https://github.com/PaddlePaddle/PaddleSlim/releases/tag/v2.3.0)**
-
发布
[
自动化压缩功能
](
example/auto_compression
)
- 支持代码无感知压缩:用户只需提供推理模型文件和数据,既可进行离线量化(PTQ)、量化训练(QAT)、稀疏训练等压缩任务。
-
支持代码无感知压缩:开发者只需提供推理模型文件和数据,既可进行离线量化(PTQ)、量化训练(QAT)、稀疏训练等压缩任务。
-
支持自动策略选择,根据任务特点和部署环境特性:自动搜索合适的离线量化方法,自动搜索最佳的压缩策略组合方式。
-
发布
[
自然语言处理
](
example/auto_compression/nlp
)
、
[
图像语义分割
](
example/auto_compression/semantic_segmentation
)
、
[
图像目标检测
](
example/auto_compression/detection
)
三个方向的自动化压缩示例。
-
发布
`X2Paddle`
模型自动化压缩方案:
[
YOLOv5
](
example/auto_compression/pytorch_yolo_series
)
、
[
YOLOv6
](
example/auto_compression/pytorch_yolo_series
)
、
[
YOLOv7
](
example/auto_compression/pytorch_yolo_series
)
、
[
HuggingFace
](
example/auto_compression/pytorch_huggingface
)
、
[
MobileNet
](
example/auto_compression/tensorflow_mobilenet
)
。
-
升级量化功能
- 统一量化模型格式
- 离线量化支持while op
- 新增7种[离线量化方法](docs/zh_cn/tutorials/quant/post_training_quantization.md), 包括HIST, AVG, EMD, Bias Correction, AdaRound等
- 修复BERT大模型量化训练过慢的问题
-
统一量化模型格式;离线量化支持while op;修复BERT大模型量化训练过慢的问题。
-
新增7种
[
离线量化方法
](
docs/zh_cn/tutorials/quant/post_training_quantization.md
)
, 包括HIST, AVG, EMD, Bias Correction, AdaRound等。
-
支持半结构化稀疏训练
-
新增延时预估工具
-
支持对稀疏化模型、低比特量化模型的性能预估;支持预估指定模型在特定部署环境下 (ARM CPU + Paddle Lite) 的推理性能;提供 SD625、SD710、RK3288 芯片 + Paddle Lite 的预估接口。
-
提供部署环境自动扩展工具,可以自动增加在更多 ARM CPU 设备上的预估工具。
- 支持预估指定模型在特定部署环境下 (ARM CPU + Paddle Lite) 的推理性能
- 提供部署环境自动扩展工具,可以自动增加在更多 ARM CPU 设备上的预估工具
- 支持对稀疏化模型、低比特量化模型的性能预估
- 提供 SD625、SD710、RK3288 芯片 + Paddle Lite 的预估接口
<details>
<summary>
历史更新
</summary>
-
**2021.11.15: 发布v2.2.0版本**
...
...
@@ -52,6 +63,7 @@ PaddleSlim是一个专注于深度学习模型压缩的工具库,提供**低
更多信息请参考:
[
release note
](
https://github.com/PaddlePaddle/PaddleSlim/releases
)
</details>
## 基础压缩功能概览
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录