Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • Paddle-Lite
  • 合并请求
  • !2949

P
Paddle-Lite
  • 项目概览

PaddlePaddle / Paddle-Lite

通知 337
Star 4
Fork 1
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 271
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 78
  • Wiki 0
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
P
Paddle-Lite
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 271
    • Issue 271
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 78
    • 合并请求 78
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 0
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板

lite cuda support exec multi-stream. !2949

  • Report abuse
!2949 已合并 2月 20, 2020 由 saxon_zh@saxon_zh 创建
#<User:0x00007f2ed85d1cf0>
  • 概览 24
  • 提交 46
  • 变更 21

Created by: jiweibo

lite cuda集成多流。

完成工作

  • 增加exec多流,一般情况下对存在多输入并行结构的模型,具有一定的收益,在多数视觉开源模型上无收益
  • cuda context从 lite/core/context.h中迁移到 lite/backends/cuda/context.h

后续工作

  • 测试exec和io的多流,在开源模型上测试性能收益
  • 多流和复用相结合
  • 多线程情况下的分配流策略
  • 目前的exec多流分析部分进一部优化,使得能支持模型内部存在并行结构
指派人
分配到
审核者
Request review from
无
里程碑
无
分配里程碑
工时统计
标识: paddlepaddle/Paddle-Lite!2949
Source branch: github/fork/jiweibo/multi_stream
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7