Skip to content

  • 体验新版
    • 正在加载...
  • 登录
  • PaddlePaddle
  • Paddle-Lite
  • 合并请求
  • !4378

P
Paddle-Lite
  • 项目概览

PaddlePaddle / Paddle-Lite

通知 338
Star 4
Fork 1
  • 代码
    • 文件
    • 提交
    • 分支
    • Tags
    • 贡献者
    • 分支图
    • Diff
  • Issue 271
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 78
  • Wiki 0
    • Wiki
  • 分析
    • 仓库
    • DevOps
  • 项目成员
  • Pages
P
Paddle-Lite
  • 项目概览
    • 项目概览
    • 详情
    • 发布
  • 仓库
    • 仓库
    • 文件
    • 提交
    • 分支
    • 标签
    • 贡献者
    • 分支图
    • 比较
  • Issue 271
    • Issue 271
    • 列表
    • 看板
    • 标记
    • 里程碑
  • 合并请求 78
    • 合并请求 78
  • Pages
  • 分析
    • 分析
    • 仓库分析
    • DevOps
  • Wiki 0
    • Wiki
  • 成员
    • 成员
  • 收起侧边栏
  • 动态
  • 分支图
  • 创建新Issue
  • 提交
  • Issue看板

[Framework] Add method for specifying initial size of `workspace_` !4378

  • Report abuse
!4378 已合并 9月 18, 2020 由 saxon_zh@saxon_zh 创建
#<User:0x00007fed7466c9e8>
  • 概览 7
  • 提交 6
  • 变更 4

Created by: DannyIsFunny

【背景】 DeviceInfo会申请L3Cache尺寸的workspace_,供算子中汇编使用。 L3 cache与手机型号有关,在mate20手机上可达4M,但相应大小的 workspace_ 在小模型上不能全部被应用,造成内存浪费。

【本PR修改】 新增接口MobileConfig::SetArmL3CacheSize :补充四种设置 workspace_ 初始大小的方法

enum class L3CacheSetMethod {
  kDeviceL3Cache = 0, // Use the system L3 Cache size, best performance.
  kDeviceL2Cache = 1, // Use the system L2 Cache size, trade off performance
                      // with less memory consumption.
  kAbsolute = 2,      // Use the external setting.
  // kAutoGrow = 3,   // Not supported yet, least memory consumption.
};
struct MobileConfig {
  // ...
  // danger area
  void
  SetArmL3CacheSize(L3CacheSetMethod method = L3CacheSetMethod::kDeviceL3Cache,
                    int absolute_val) {}
  // ...
};

【使用示例】 workspace_ 设置为 L3_Cache的大小(默认行为)

// 不需要修改

workspace_ 设置为 L2_Cache的大小

MobileConfig::SetArmL3CacheSize(L3CacheSetMethod::kDeviceL2Cache);

设置绝对值(以1M为例)

MobileConfig::SetArmL3CacheSize(L3CacheSetMethod::kAbsolute, 1024 * 2014);
指派人
分配到
审核者
Request review from
无
里程碑
无
分配里程碑
工时统计
标识: paddlepaddle/Paddle-Lite!4378
Source branch: github/fork/DannyIsFunny/L3Cache
渝ICP备2023009037号

京公网安备11010502055752号

网络110报警服务 Powered by GitLab CE v13.7
开源知识
Git 入门 Pro Git 电子书 在线学 Git
Markdown 基础入门 IT 技术知识开源图谱
帮助
使用手册 反馈建议 博客
《GitCode 隐私声明》 《GitCode 服务条款》 关于GitCode
Powered by GitLab CE v13.7