diff --git a/doc/BERT_10_MINS.md b/doc/BERT_10_MINS.md index 08ca0f31c27a26e3615e6e5ce70eb1d3c5c66d88..7a778558b34bba7f4e65ba729155493ea1a3b7c3 100644 --- a/doc/BERT_10_MINS.md +++ b/doc/BERT_10_MINS.md @@ -81,4 +81,3 @@ cat data.txt | python bert_client.py 我们基于V100对基于Padde Serving研发的Bert-As-Service的性能进行测试并与基于Tensorflow实现的Bert-As-Service进行对比,从用户配置的角度,采用相同的batch size和并发数进行压力测试,得到4块V100下的整体吞吐性能数据如下。 ![4v100_bert_as_service_benchmark](4v100_bert_as_service_benchmark.png) - diff --git a/doc/timeline-example.png b/doc/timeline-example.png new file mode 100644 index 0000000000000000000000000000000000000000..96b3f9240e0531d53d47e33680dca13b083b2519 Binary files /dev/null and b/doc/timeline-example.png differ diff --git a/python/examples/util/README.md b/python/examples/util/README.md index 94dbd5639221273912f8b47c512d860f91015803..13f9b4b4db671acdf5d7dc8bcb1e21a6201c5945 100644 --- a/python/examples/util/README.md +++ b/python/examples/util/README.md @@ -21,3 +21,7 @@ python timeline_trace.py profile trace 脚本将日志中的时间打点信息转换成json格式保存到trace文件,trace文件可以通过chrome浏览器的tracing功能进行可视化。 具体操作:打开chrome浏览器,在地址栏输入chrome://tracing/,跳转至tracing页面,点击load按钮,打开保存的trace文件,即可将预测服务的各阶段时间信息可视化。 + +效果如下图,图中展示了client端启动4进程时的bert示例的各阶段timeline,其中bert_pre代表client端的数据预处理阶段,client_infer代表client完成预测请求的发送和接收结果的阶段,每个进进程的第二行展示的是server各个op的timeline。 + +![timeline](../../../doc/timeline-example.png)