Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • Serving
  • 合并请求
  • !450

S
Serving
  • 项目概览

PaddlePaddle / Serving
接近 2 年 前同步成功

通知 186
Star 833
Fork 253
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 105
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 10
  • Wiki 2
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
S
Serving
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 105
    • Issue 105
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 10
    • 合并请求 10
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 2
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板

Ensemble support !450

  • Report abuse
!450 已合并 4月 14, 2020 由 saxon_zh@saxon_zh 创建
#<User:0x00007f2c02792c20>
  • 概览 1
  • 提交 40
  • 变更 29

Created by: barrierye

改动:

  1. workflow支持dag(但目前ViewStage内还是串行的)
  2. 同个workflow支持多个general_infer_op加载不同模型
  3. general_response_op支持多输入,将多个模型结果返回
  4. Client fetch的值带engine_name,用来标记对应的模型
  5. fix 若干函数没有返回值 && gpu web_service
  6. model ensemble中英文档

遗留问题:

  1. op.h文件中的butil::get_object使用问题,暂时以new/delete规避
  2. 由于read_op和response_op从resource.prototxt获取对应的输入输出格式,所以需要保证多个模型的输入输出格式相同
  3. 目前多模型的profile_time是硬编码处理,对于复杂的DAG会有问题
  4. ViewStage内部Op仍是串行运行
指派人
分配到
审核者
Request review from
无
里程碑
无
分配里程碑
工时统计
标识: paddlepaddle/Serving!450
Source branch: github/fork/barrierye/ensemble-support
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7