-
升级PaddleHub Serving,提升性能和易用性
- 新增文本Embedding服务Bert Service, 轻松获取文本embedding;
- 代码精短,易于使用。服务端/客户端一行命令即可获取文本embedding;
- 更高性能,更高效率。通过Paddle AnalysisPredictor API优化计算图,提升速度减小显存占用
- 随"机"应变,灵活扩展。根据机器资源和实际需求可灵活增加服务端数量,支持多显卡多模型计算任务
- 优化并发方式,多核环境中使用多线程并发提高整体QPS
- 新增文本Embedding服务Bert Service, 轻松获取文本embedding;
-
优化PaddleHub迁移学习组网Task功能,提升易用性
- 增加Hook机制,支持修改Task内置方法
- 增加colorlog,支持日志彩色显示
- 改用save_inference_model接口保存模型,方便模型部署
- 优化predict接口,增加return_result参数,方便用户直接获取预测结果
-
优化PaddleHub Dataset基类,加载自定义数据代码更少、更简单
P
项目简介
Awesome pre-trained models toolkit based on PaddlePaddle. (400+ models including Image, Text, Audio, Video and Cross-Modal with Easy Inference & Serving)
源项目地址