提交 d149c7f2 编写于 作者: M MRXLT

add FAQ

上级 8ec22efb
...@@ -12,4 +12,7 @@ ...@@ -12,4 +12,7 @@
client.load_client_config(sys.argv[1]) client.load_client_config(sys.argv[1])
client.set_rpc_timeout_ms(100000) client.set_rpc_timeout_ms(100000)
client.connect(["127.0.0.1:9393"]) client.connect(["127.0.0.1:9393"])
``` ```
- Q: 执行GPU预测时出现显存不足的问题应该怎么办?
A: 请使用--thread 4参数限制server端的线程数为4,并使用--mem_optim参数开启显存优化选项。
...@@ -41,7 +41,7 @@ from concurrent import futures ...@@ -41,7 +41,7 @@ from concurrent import futures
def serve_args(): def serve_args():
parser = argparse.ArgumentParser("serve") parser = argparse.ArgumentParser("serve")
parser.add_argument( parser.add_argument(
"--thread", type=int, default=10, help="Concurrency of server") "--thread", type=int, default=4, help="Concurrency of server")
parser.add_argument( parser.add_argument(
"--model", type=str, default="", help="Model for serving") "--model", type=str, default="", help="Model for serving")
parser.add_argument( parser.add_argument(
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册