Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
wux_labs
Python专题
提交
c46476d4
Python专题
项目概览
wux_labs
/
Python专题
与 Fork 源项目一致
从无法访问的项目Fork
通知
1
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
Python专题
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
c46476d4
编写于
6月 18, 2021
作者:
M
MaoXianxin
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
CODE CHINA项目推荐|基于强化学习的自动化剪枝模型
上级
15a41d7a
变更
1
显示空白变更内容
内联
并排
Showing
1 changed file
with
108 addition
and
0 deletion
+108
-0
README.md
README.md
+108
-0
未找到文件。
README.md
0 → 100644
浏览文件 @
c46476d4
# CODE CHINA项目推荐|基于强化学习的自动化剪枝模型
CODE CHINA上最新开源的一个基于强化学习的自动化剪枝模型,本模型在图像识别的实验证明了能够有效减少计算量,同时还能提高模型的精度。
今天为大家介绍一个CODE CHINA上最新开源的一个
**基于强化学习的自动化剪枝模型**
,本模型在图像识别的实验证明了能够有效减少计算量,同时还能提高模型的精度。
项目地址:
[
https://codechina.csdn.net/greenplum/cv-automatic-pruning-transformer
](
https://codechina.csdn.net/greenplum/cv-automatic-pruning-transformer
)
## **介绍**
目前的强化学习工作很多集中在利用外部环境的反馈训练agent,忽略了模型本身就是一种能够获得反馈的环境。本项目的核心思想是:将模型视为环境,构建附生于模型的 agent ,以辅助模型进一步拟合真实样本。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103018.png
)
大多数领域的模型都可以采用这种方式来优化,如cv/多模态等。它至少能够以三种方式工作:
**1.过滤噪音信息,如删减语音或图像特征;**
**2.进一步丰富表征信息,如高效引用外部信息;**
**3.实现记忆、联想、推理等复杂工作,如构建重要信息的记忆池。**
这里推出一款早期完成的裁剪机制transformer版本(后面称为APT),实现了一种更高效的训练模式,能够优化模型指标;此外,可以使用动态图丢弃大量的不必要单元,在指标基本不变的情况下,大幅降低计算量。
该项目希望为大家抛砖引玉。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103136.png
)
## **为什么要做自动剪枝**
在具体任务中,往往存在大量毫无价值的信息和过渡性信息,有时不但对任务无益,还会成为噪声。比如:表述会存在冗余/无关片段以及过渡性信息;动物图像识别中,有时候背景无益于辨别动物主体,即使是动物部分图像,也仅有小部分是关键的特征。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103220.png
)
以transformer为例,在进行self-attention计算时其复杂度与序列长度平方成正比。长度为10,复杂度为100;长度为9,复杂度为81。
利用强化学习构建agent,能够精准且自动化地动态裁剪已丧失意义部分,甚至能将长序列信息压缩到50-100之内(实验中有从500+的序列长度压缩到个位数的示例),以大幅减少计算量。
实验中,发现与裁剪agent联合训练的模型比普通方法训练的模型效果要更好。
## **模型介绍及实验**
**模型主体**
基于transformer的视觉预训练模型ViT是本项目的模型主体,具体细节可以查看论文:《An Image is Worth 16x16 Words: Transformers for Image Recognition at Scale》
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103254.png
)
**自动化裁剪的智能体**
对于强化学习agent来说,最关键的问题之一是如何衡量动作带来的反馈。为了评估单次动作所带来的影响,使用了以下三步骤:
1、使用一个普通模型(无裁剪模块)进行预测;
2、使用一个带裁剪器的模型(执行一次裁剪动作)进行预测;
3、对比两次预测的结果,若裁剪后损失相对更小,则说明该裁剪动作帮助了模型进一步拟合真实状况,应该得到奖励;反之,应该受到惩罚。
但是在实际预测过程中,模型是同时裁剪多个单元的,这或将因为多个裁剪的连锁反应而导致模型失效。训练过程中需要构建一个带裁剪器的模型(可执行多次裁剪动作),以减小该问题所带来的影响。
综上,本模型使用的是三通道模式进行训练。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103327.png
)
关于裁剪器的模型结构设计,本模型中认为如何衡量一个信息单元是否对模型有意义,建立于其自身的信息及它与任务的相关性上。
因此以信息单元本身及它与CLS单元的交互作为agent的输入信息。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103351.png
)
**实验**
| 数据集 | ViT | APT(pruning) | APT(no pruning) |
| --------- | ----- | ------------ | --------------- |
| CIFAR-100 | 92.3 | 92.6 | 93.03 |
| CIFAR-10 | 99.08 | 98.93 | 98.92 |
以上加载的均为ViT-B_16,resolution为224
*
224。
## **使用说明**
**环境**
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103423.png
)
下载经过预先训练的模型(来自Google官方)
本项目使用的型号:ViT-B_16(您也可以选择其它型号进行测试)
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103444.png
)
**训练与推理**
下载好预训练模型就可以跑了。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103505.png
)
CIFAR-10和CIFAR-100会自动下载和培训。如果使用其他数据集,您需要自定义data_utils.py。
在裁剪模式的推理过程中,预期您将看到如下格式的输出。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina1/20210618103525.png
)
默认的batch size为72、gradient_accumulation_steps为3。当GPU内存不足时,您可以通过它们来进行训练。
注:相较于原始的ViT,APT(Automatic pruning transformer)的训练步数、训练耗时都会上升。原因是使用pruning agent的模型由于总会丢失部分信息,使得收敛速度变慢,同时为了训练pruning agent,也需要多次的观测、行动、反馈。
![](
https://maoxianxin1996.oss-accelerate.aliyuncs.com/codechina/20210615093836.png
)
\ No newline at end of file
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录