提交 3b2f631f 编写于 作者: W wangguibao

Merge branch 'icode'

Change-Id: Idd05d4664a65e82191ab3d589c19f6ab92de45f6
......@@ -422,7 +422,7 @@ Serving扩展能力的测试是指,在不同模型上:
| 36 | 341.452 | 52716 | 101 | 117 | 129 | 170 | 231 |
| 40 | 347.953 | 57479 | 109 | 130 | 143 | 182 | 216 |
下图是Paddle Serving在CNN模型上QPS随serving端线程数增加而变化的图表。当线程数较少时,可以看出较为明显的线性增长关系;当线程数变大(20线程及以上),QPS变化曲线趋于一致
下图是Paddle Serving在CNN模型上QPS随serving端线程数增加而变化的图表。可以看出,随着线程数变大,Serving QPS有较为明显的线性增长关系。可以这样解释此图表:例如,线程数为16时,基本在20个并发时达到最大QPS,此后再增加并发压力QPS基本保持稳定;当线程能够数为24线程时,基本在28并发时达到最大QPS,此后再增大并发压力qps基本保持稳定
![](https://paddle-serving.bj.bcebos.com/doc/qps-threads-cnn.png)
......@@ -578,7 +578,7 @@ Serving扩展能力的测试是指,在不同模型上:
| 36 | 80.0028 | 224992 | 445 | 502 | 538 | 636 | 705 |
| 40 | 80.9894 | 246946 | 486 | 554 | 601 | 767 | 1181 |
下图是Paddle Serving在LSWM模型上QPS随serving端线程数增加而变化的图表。当线程数较少时,可以看出较为明显的线性增长关系;当线程数变大(28线程及以上),QPS变化曲线趋于一致
下图是Paddle Serving在LSTM模型上QPS随serving端线程数增加而变化的图表。可以看出,随着线程数变大,Serving QPS有较为明显的线性增长关系。可以这样解释此图表:例如,线程数为16时,基本在20个并发时达到最大QPS,此后再增加并发压力QPS基本保持稳定;当线程能够数为24线程时,基本在28并发时达到最大QPS,此后再增大并发压力qps基本保持稳定
![](https://paddle-serving.bj.bcebos.com/doc/qps-threads-lstm.png)
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册