未验证 提交 cf2f5939 编写于 作者: W whs 提交者: GitHub

Add usage for distribute Light-NAS searching. (#2833)

* Add usage for distribute Light-NAS searching.

* Refine usage doc of PaddleSlim.
上级 9397dbe7
......@@ -205,6 +205,13 @@ compress_pass:
- pruning_strategy_1
```
compress_pass下可配置的参数有:
- **epoch**: 整个压缩任务执行的epoch数量。
- **init_model**: 初始化模型路径。在裁剪策略中,会根据`init_model``parameter``shape`对当前网络进行裁剪。
- **checkpoint_path**: 保存`checkpoint`的路径, checkpoint中包含了模型训练信息和策略执行信息。在重启任务时,会自动从`checkpoint`路径下加载最新的`checkpoint`,所以用户需要根据自己的需求决定是否修改`checkpoint`
- **strategies**: 在当前压缩任务中依次生效的策略。
## 2. 模型压缩策略使用介绍
......@@ -598,3 +605,21 @@ controllers:
- **reduce_rate:** float类型;温度的衰减率。
- **init_temperature:** float类型;初始化温度。
- **max_iter_number:** int类型;在得到一个满足FLOPS限制的tokens之前,最多尝试的次数。
#### 2.4.3 分布式搜索
单机多任务:
单机多任务是指在一个机器上启动一个controller server和多个client, client从controller获取tokens, 根据tokens组建网络并训练评估,最后返回reward给controller server.
在Compressor::run()执行时,会首先判断配置文件中的`is_server`是否为`True`, 然后做如下操作:
- True: 判断当前路径下是否存在`slim_LightNASStrategy_controller_server.socket`文件,如果存在,则仅启动一个client,如果不存在,则启动一个controller server和一个client.
- False: 仅启动一个client
多机搜索:
多机搜索是指在一个机器上启动一个controller server,在多台机器上启动若干client。在启动controller server的机器上的配置文件里的is_server要设置为True。其它机器上的配置文件中的`is_server`要手动设置为False, 同时`server_ip``server_port`要设置为controller server对应的`ip``port`.
>注意: 在重启controller server时,lim_LightNASStrategy_controller_server.socke文件可能不会被及时清除,所以需要用户手动删除该文件。在后续版本中,会修复完善该问题。
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册