You need to sign in or sign up before continuing.
config.yml 2.7 KB
Newer Older
L
LDOUBLEV 已提交
1
#rpc端口, rpc_port和http_port不允许同时为空。当rpc_port为空且http_port不为空时,会自动将rpc_port设置为http_port+1
T
tink2123 已提交
2
rpc_port: 18091
L
LDOUBLEV 已提交
3 4

#http端口, rpc_port和http_port不允许同时为空。当rpc_port可用且http_port为空时,不自动生成http_port
T
tink2123 已提交
5
http_port: 9998
L
LDOUBLEV 已提交
6 7 8

#worker_num, 最大并发数。当build_dag_each_worker=True时, 框架会创建worker_num个进程,每个进程内构建grpcSever和DAG
##当build_dag_each_worker=False时,框架会设置主线程grpc线程池的max_workers=worker_num
T
add qps  
tink2123 已提交
9
worker_num: 10
L
LDOUBLEV 已提交
10 11

#build_dag_each_worker, False,框架在进程内创建一条DAG;True,框架会每个进程内创建多个独立的DAG
T
tink2123 已提交
12
build_dag_each_worker: False
L
LDOUBLEV 已提交
13 14 15 16 17 18

dag:
    #op资源类型, True, 为线程模型;False,为进程模型
    is_thread_op: False

    #重试次数
T
tink2123 已提交
19
    retry: 10
L
LDOUBLEV 已提交
20 21

    #使用性能分析, True,生成Timeline性能数据,对性能有一定影响;False为不使用
T
tink2123 已提交
22
    use_profile: True
L
LDOUBLEV 已提交
23 24 25 26 27 28
    
    tracer:
        interval_s: 10
op:
    det:
        #并发数,is_thread_op=True时,为线程并发;否则为进程并发
T
add qps  
tink2123 已提交
29
        concurrency: 8
L
LDOUBLEV 已提交
30 31 32 33 34 35 36

        #当op配置没有server_endpoints时,从local_service_conf读取本地服务配置
        local_service_conf:
            #client类型,包括brpc, grpc和local_predictor.local_predictor不启动Serving服务,进程内预测
            client_type: local_predictor

            #det模型路径
littletomatodonkey's avatar
littletomatodonkey 已提交
37
            model_config: ./ppocrv2_det_serving
L
LDOUBLEV 已提交
38 39 40 41 42

            #Fetch结果列表,以client_config中fetch_var的alias_name为准
            fetch_list: ["save_infer_model/scale_0.tmp_1"]

            #计算硬件ID,当devices为""或不写时为CPU预测;当devices为"0", "0,1,2"时为GPU预测,表示使用的GPU卡
T
tink2123 已提交
43
            devices: "0"
L
LDOUBLEV 已提交
44
            
T
add qps  
tink2123 已提交
45
            ir_optim: True
L
LDOUBLEV 已提交
46 47
    rec:
        #并发数,is_thread_op=True时,为线程并发;否则为进程并发
T
add qps  
tink2123 已提交
48
        concurrency: 4
L
LDOUBLEV 已提交
49 50 51 52 53 54 55 56 57 58 59 60 61 62

        #超时时间, 单位ms
        timeout: -1
 
        #Serving交互重试次数,默认不重试
        retry: 1

        #当op配置没有server_endpoints时,从local_service_conf读取本地服务配置
        local_service_conf:

            #client类型,包括brpc, grpc和local_predictor。local_predictor不启动Serving服务,进程内预测
            client_type: local_predictor

            #rec模型路径
littletomatodonkey's avatar
littletomatodonkey 已提交
63
            model_config: ./ppocrv2_rec_serving
L
LDOUBLEV 已提交
64 65

            #Fetch结果列表,以client_config中fetch_var的alias_name为准
T
tink2123 已提交
66
            fetch_list: ["save_infer_model/scale_0.tmp_1"]  
L
LDOUBLEV 已提交
67 68

            #计算硬件ID,当devices为""或不写时为CPU预测;当devices为"0", "0,1,2"时为GPU预测,表示使用的GPU卡
T
tink2123 已提交
69
            devices: "0"
L
LDOUBLEV 已提交
70
            
T
add qps  
tink2123 已提交
71
            ir_optim: True