提交 d149c7f2 编写于 作者: M MRXLT

add FAQ

上级 8ec22efb
......@@ -12,4 +12,7 @@
client.load_client_config(sys.argv[1])
client.set_rpc_timeout_ms(100000)
client.connect(["127.0.0.1:9393"])
```
```
- Q: 执行GPU预测时出现显存不足的问题应该怎么办?
A: 请使用--thread 4参数限制server端的线程数为4,并使用--mem_optim参数开启显存优化选项。
......@@ -41,7 +41,7 @@ from concurrent import futures
def serve_args():
parser = argparse.ArgumentParser("serve")
parser.add_argument(
"--thread", type=int, default=10, help="Concurrency of server")
"--thread", type=int, default=4, help="Concurrency of server")
parser.add_argument(
"--model", type=str, default="", help="Model for serving")
parser.add_argument(
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册