From b09d1e91eee30cb40e9722da93c290f362d2b26d Mon Sep 17 00:00:00 2001 From: Dong Daxiang <35550832+guru4elephant@users.noreply.github.com> Date: Fri, 20 Mar 2020 21:16:06 +0800 Subject: [PATCH] Create DESIGN_DOC.md --- doc/DESIGN_DOC.md | 13 +++++++++++++ 1 file changed, 13 insertions(+) create mode 100644 doc/DESIGN_DOC.md diff --git a/doc/DESIGN_DOC.md b/doc/DESIGN_DOC.md new file mode 100644 index 00000000..c0917715 --- /dev/null +++ b/doc/DESIGN_DOC.md @@ -0,0 +1,13 @@ +# Paddle Serving设计文档 + +## 1. 整体设计目标 + +- Paddle Serving是一个PaddlePaddle开源的在线服务框架,长期目标就是围绕着人工智能落地的最后一公里提供越来越专业、可靠、易用的服务。 + +- 为了达到工业级深度学习模型在线部署的要求, +Paddle Serving提供很多大规模场景需要的部署功能:1)分布式稀疏参数索引功能;2)高并发底层通信能力;3)模型管理、在线A/B流量测试、模型热加载。 + +- 此外,为了让使用Paddle的用户能够以极低的成本部署模型,PaddleServing设计了一套与Paddle训练框架无缝打通的预测部署API,普通模型可以使用一行命令进行服务部署。 + +- 当前,Paddle Serving支持C++、Python、Golang的客户端,未来也会面向不同类型的客户新增多种语言的客户端。在Paddle Serving的框架设计方面,尽管当前Paddle Serving以支持Paddle模型的部署为核心功能, +用户可以很容易嵌入其他的机器学习库部署在线预测。 -- GitLab