表1-1: GLUE数据集精度对比
压缩前后模型的耗时如下表所示：| Device | Batch Size | Model | TRT(FP16) | Latency(ms) |
| T4 | 16 | BERT | N | 110.71 |
| Y | 22.0 | |||
| Compressed BERT | N | 69.62 | ||
| Y | 14.93 | |||
| V100 | 16 | BERT | N | 33.28 |
| Compressed BERT | N | 21.83 | ||
| Intel(R) Xeon(R) Gold 5117 CPU @ 2.00GHz | 16 | BERT | N | 10831.73 |
| Compressed BERT | N | 7682.93 |
表1-2: 模型速度对比
压缩后模型在T4机器上相比原始模型在FP32的情况下加速59%，在TensorRT FP16的情况下加速47.3%。 压缩后模型在V100机器上相比原始模型在FP32的情况下加速52.5%。 压缩后模型在Intel(R) Xeon(R) Gold 5117 CPU上相比原始模型在FP32的情况下加速41%。 ## 2. 快速开始 本教程示例以GLUE/SST-2 数据集为例。 ### 2.1 安装PaddleNLP和Paddle 本教程基于PaddleNLP中BERT模型进行压缩，依赖PaddleNLP2.0beta及之后版本和Paddle2.0rc1及之后版本。 ```shell pip install paddlenlp pip install paddlepaddle_gpu>=2.0rc1 ``` ### 2.2 Fine-tuing 首先需要对Pretrain-Model在实际的下游任务上进行Fine-tuning，得到需要压缩的模型。Fine-tuning流程参考[Fine-tuning教程](https://github.com/PaddlePaddle/models/tree/develop/PaddleNLP/examples/bert) Fine-tuning 在dev上的结果如压缩结果表1-1『Baseline』那一列所示。 ### 2.3 压缩训练 ```python python -u ./run_glue_ofa.py --model_type bert \ --model_name_or_path ${task_pretrained_model_dir} \ --task_name $TASK_NAME --max_seq_length 128 \ --batch_size 32 \ --learning_rate 2e-5 \ --num_train_epochs 6 \ --logging_steps 10 \ --save_steps 100 \ --output_dir ./tmp/$TASK_NAME \ --n_gpu 1 \ --width_mult_list 1.0 0.8333333333333334 0.6666666666666666 0.5 ``` 其中参数释义如下： - `model_type` 指示了模型类型，当前仅支持BERT模型。 - `model_name_or_path` 指示了某种特定配置的模型，对应有其预训练模型和预训练时使用的 tokenizer。若模型相关内容保存在本地，这里也可以提供相应目录地址。 - `task_name` 表示 Fine-tuning 的任务。 - `max_seq_length` 表示最大句子长度，超过该长度将被截断。 - `batch_size` 表示每次迭代**每张卡**上的样本数目。 - `learning_rate` 表示基础学习率大小，将于learning rate scheduler产生的值相乘作为当前学习率。 - `num_train_epochs` 表示训练轮数。 - `logging_steps` 表示日志打印间隔。 - `save_steps` 表示模型保存及评估间隔。 - `output_dir` 表示模型保存路径。 - `n_gpu` 表示使用的 GPU 卡数。若希望使用多卡训练，将其设置为指定数目即可；若为0，则使用CPU。 - `width_mult_list` 表示压缩训练过程中，对每层Transformer Block的宽度选择的范围。 压缩训练之后在dev上的结果如表1-1中『Result with PaddleSlim』列所示，延时情况如表1-2所示。 ## 3. OFA接口介绍 TODO