如何用多进程启动多个serving实例？
Created by: gudufengzhongyipilang
首先感谢研发的辛勤付出！
1、问题背景：
单机单卡（P40）下使用paddel-serving部署了一个yolov3检测模型，命令如下：
；tornado异步多协程做容器与客户端的通信。在客户端使用了jmeter做压测，吞吐量在10.5左右。
2、问题描述： 压测过程中，P40显卡的显存使用率在15%~23%之间无法再提高；为了提升GPU利用率，想使用多进程来开多个serving实例，在命令行-help中没有找到相关选项。参考serving性能测试时，有提及到：**单卡多进程：启动N个Serving实例，他们绑定到同一张GPU卡。**这样的描述。 因此想知道目前阶段，如果想要在单卡上开多进程进而启动多个serving实例，该如何操作实现？