- 新增超参优化Auto Fine-tune,实现给定超参搜索空间,PaddleHub自动给出较佳的超参组合
- 支持两种优化策略:HAZero和PSHE2
- 支持两种评估方式:FullTrail和ModelBased
- 新增Fine-tune优化策略ULMFiT,包括以下三种设置
- Slanted triangular learning rates:学习率先线性增加后缓慢降低
- Discriminative fine-tuning:将计算图划分为n段,不同的段设置不同学习率
- Gradual unfreezing:根据计算图的拓扑结构逐层unfreezing
- 新增支持用户自定义PaddleHub配置,包括
- 预训练模型管理服务器地址
- 日志记录级别
- Fine-tune API升级,灵活性与易用性提升
- 新增阅读理解Fine-tune任务和回归Fine-tune任务
- 新增多指标评测
- 优化predict接口
- 可视化工具支持使用tensorboard
P
项目简介
Awesome pre-trained models toolkit based on PaddlePaddle. (400+ models including Image, Text, Audio, Video and Cross-Modal with Easy Inference & Serving)
源项目地址