Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
项目经理老王
Mace
提交
4d83c84e
Mace
项目概览
项目经理老王
/
Mace
与 Fork 源项目一致
Fork自
Xiaomi / Mace
通知
1
Star
0
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
Mace
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
4d83c84e
编写于
8月 21, 2018
作者:
B
Bin Li
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Fix incorrect throughput stats for gemmlowp
上级
70a41900
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
11 addition
and
12 deletion
+11
-12
mace/kernels/matmul_benchmark.cc
mace/kernels/matmul_benchmark.cc
+11
-12
未找到文件。
mace/kernels/matmul_benchmark.cc
浏览文件 @
4d83c84e
...
@@ -18,9 +18,10 @@
...
@@ -18,9 +18,10 @@
#include <tuple>
#include <tuple>
#include <vector>
#include <vector>
#include "public/gemmlowp.h"
#include "mace/core/testing/test_benchmark.h"
#include "mace/core/testing/test_benchmark.h"
#include "mace/kernels/gemm.h"
#include "mace/kernels/gemm.h"
#include "
public/gemmlowp
.h"
#include "
mace/kernels/gemmlowp_util
.h"
namespace
gemmlowp
{
namespace
gemmlowp
{
...
@@ -140,8 +141,7 @@ void MatmulBenchmark_gemmlowp_uint8(int iters, int rows, int depth, int cols) {
...
@@ -140,8 +141,7 @@ void MatmulBenchmark_gemmlowp_uint8(int iters, int rows, int depth, int cols) {
const
auto
output_pipeline
=
const
auto
output_pipeline
=
std
::
make_tuple
(
quantize_down_stage
,
saturating_cast_stage
);
std
::
make_tuple
(
quantize_down_stage
,
saturating_cast_stage
);
gemmlowp
::
GemmContext
gemm_context
;
gemmlowp
::
GemmContext
&
gemm_context
=
GetGemmlowpContext
();
gemm_context
.
set_max_num_threads
(
4
);
using
BitDepthParams
=
gemmlowp
::
L8R8WithLhsNonzeroBitDepthParams
;
using
BitDepthParams
=
gemmlowp
::
L8R8WithLhsNonzeroBitDepthParams
;
gemmlowp
::
GemmWithOutputPipeline
<
std
::
uint8_t
,
std
::
uint8_t
,
BitDepthParams
>
(
gemmlowp
::
GemmWithOutputPipeline
<
std
::
uint8_t
,
std
::
uint8_t
,
BitDepthParams
>
(
...
@@ -172,8 +172,7 @@ void MatmulBenchmark_gemmlowp_int32(int iters, int rows, int depth, int cols) {
...
@@ -172,8 +172,7 @@ void MatmulBenchmark_gemmlowp_int32(int iters, int rows, int depth, int cols) {
const
auto
output_pipeline
=
std
::
make_tuple
();
const
auto
output_pipeline
=
std
::
make_tuple
();
gemmlowp
::
GemmContext
gemm_context
;
gemmlowp
::
GemmContext
&
gemm_context
=
GetGemmlowpContext
();
gemm_context
.
set_max_num_threads
(
4
);
using
BitDepthParams
=
gemmlowp
::
L8R8WithLhsNonzeroBitDepthParams
;
using
BitDepthParams
=
gemmlowp
::
L8R8WithLhsNonzeroBitDepthParams
;
gemmlowp
::
GemmWithOutputPipeline
<
std
::
uint8_t
,
std
::
int32_t
,
BitDepthParams
>
(
gemmlowp
::
GemmWithOutputPipeline
<
std
::
uint8_t
,
std
::
int32_t
,
BitDepthParams
>
(
...
@@ -191,21 +190,21 @@ void MatmulBenchmark_gemmlowp_int32(int iters, int rows, int depth, int cols) {
...
@@ -191,21 +190,21 @@ void MatmulBenchmark_gemmlowp_int32(int iters, int rows, int depth, int cols) {
}
// namespace
}
// namespace
#define MACE_BM_MATMUL_FUNC(M, K, N, FUNC
)
\
#define MACE_BM_MATMUL_FUNC(M, K, N, FUNC
, TYPE)
\
static void MACE_BM_MATMUL_##M##_##K##_##N##_##FUNC(int iters) { \
static void MACE_BM_MATMUL_##M##_##K##_##N##_##FUNC(int iters) { \
const int64_t macc = static_cast<int64_t>(iters) * M * K * N; \
const int64_t macc = static_cast<int64_t>(iters) * M * K * N; \
const int64_t tot = static_cast<int64_t>(iters) * (M + N) * K; \
const int64_t tot = static_cast<int64_t>(iters) * (M + N) * K; \
mace::testing::MaccProcessed(macc); \
mace::testing::MaccProcessed(macc); \
mace::testing::BytesProcessed(tot * sizeof(
float));
\
mace::testing::BytesProcessed(tot * sizeof(
TYPE));
\
MatmulBenchmark_##FUNC(iters, M, K, N); \
MatmulBenchmark_##FUNC(iters, M, K, N); \
} \
} \
MACE_BENCHMARK(MACE_BM_MATMUL_##M##_##K##_##N##_##FUNC)
MACE_BENCHMARK(MACE_BM_MATMUL_##M##_##K##_##N##_##FUNC)
#define MACE_BM_MATMUL(M, K, N) \
#define MACE_BM_MATMUL(M, K, N)
\
MACE_BM_MATMUL_FUNC(M, K, N, Mace
);
\
MACE_BM_MATMUL_FUNC(M, K, N, Mace
, float);
\
MACE_BM_MATMUL_FUNC(M, K, N, Eigen
);
\
MACE_BM_MATMUL_FUNC(M, K, N, Eigen
, float);
\
MACE_BM_MATMUL_FUNC(M, K, N, gemmlowp_uint8); \
MACE_BM_MATMUL_FUNC(M, K, N, gemmlowp_uint8
, uint8_t
); \
MACE_BM_MATMUL_FUNC(M, K, N, gemmlowp_int32);
MACE_BM_MATMUL_FUNC(M, K, N, gemmlowp_int32
, uint8_t
);
// Embedding size 384
// Embedding size 384
MACE_BM_MATMUL
(
7
,
384
,
384
);
MACE_BM_MATMUL
(
7
,
384
,
384
);
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录