Created by: barrierye
改动:
- workflow支持dag(但目前ViewStage内还是串行的)
- 同个workflow支持多个general_infer_op加载不同模型
- general_response_op支持多输入,将多个模型结果返回
- Client fetch的值带engine_name,用来标记对应的模型
- fix 若干函数没有返回值 && gpu web_service
- model ensemble中英文档
遗留问题:
- op.h文件中的butil::get_object使用问题,暂时以new/delete规避
- 由于read_op和response_op从resource.prototxt获取对应的输入输出格式,所以需要保证多个模型的输入输出格式相同
- 目前多模型的profile_time是硬编码处理,对于复杂的DAG会有问题
- ViewStage内部Op仍是串行运行