Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
PaddlePaddle
Serving
提交
4a055062
S
Serving
项目概览
PaddlePaddle
/
Serving
1 年多 前同步成功
通知
186
Star
833
Fork
253
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
105
列表
看板
标记
里程碑
合并请求
10
Wiki
2
Wiki
分析
仓库
DevOps
项目成员
Pages
S
Serving
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
105
Issue
105
列表
看板
标记
里程碑
合并请求
10
合并请求
10
Pages
分析
分析
仓库分析
DevOps
Wiki
2
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
4a055062
编写于
4月 02, 2019
作者:
W
wangguibao
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
BENCHMARKING.md
上级
491eaf60
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
2 addition
and
2 deletion
+2
-2
doc/BENCHMARKING.md
doc/BENCHMARKING.md
+2
-2
未找到文件。
doc/BENCHMARKING.md
浏览文件 @
4a055062
...
...
@@ -422,7 +422,7 @@ Serving扩展能力的测试是指,在不同模型上:
| 36 | 341.452 | 52716 | 101 | 117 | 129 | 170 | 231 |
| 40 | 347.953 | 57479 | 109 | 130 | 143 | 182 | 216 |
下图是Paddle Serving在CNN模型上QPS随serving端线程数增加而变化的图表。
当线程数较少时,可以看出较为明显的线性增长关系;当线程数变大(20线程及以上),QPS变化曲线趋于一致
。
下图是Paddle Serving在CNN模型上QPS随serving端线程数增加而变化的图表。
可以看出,随着线程数变大,Serving QPS有较为明显的线性增长关系。可以这样解释此图表:例如,线程数为16时,基本在20个并发时达到最大QPS,此后再增加并发压力QPS基本保持稳定;当线程能够数为24线程时,基本在28并发时达到最大QPS,此后再增大并发压力qps基本保持稳定
。
![](
https://paddle-serving.bj.bcebos.com/doc/qps-threads-cnn.png
)
...
...
@@ -578,7 +578,7 @@ Serving扩展能力的测试是指,在不同模型上:
| 36 | 80.0028 | 224992 | 445 | 502 | 538 | 636 | 705 |
| 40 | 80.9894 | 246946 | 486 | 554 | 601 | 767 | 1181 |
下图是Paddle Serving在LS
WM模型上QPS随serving端线程数增加而变化的图表。当线程数较少时,可以看出较为明显的线性增长关系;当线程数变大(28线程及以上),QPS变化曲线趋于一致
。
下图是Paddle Serving在LS
TM模型上QPS随serving端线程数增加而变化的图表。可以看出,随着线程数变大,Serving QPS有较为明显的线性增长关系。可以这样解释此图表:例如,线程数为16时,基本在20个并发时达到最大QPS,此后再增加并发压力QPS基本保持稳定;当线程能够数为24线程时,基本在28并发时达到最大QPS,此后再增大并发压力qps基本保持稳定
。
![](
https://paddle-serving.bj.bcebos.com/doc/qps-threads-lstm.png
)
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录