Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
MegEngine 天元
MegEngine
提交
8ac73333
MegEngine
项目概览
MegEngine 天元
/
MegEngine
1 年多 前同步成功
通知
403
Star
4705
Fork
582
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
MegEngine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
提交
8ac73333
编写于
3月 06, 2020
作者:
M
Megvii Engine Team
提交者:
Xinran Xu
5月 06, 2020
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix(dnn): fix data type check for quantized convolution
GitOrigin-RevId: e0f97052ffedeb4ba5607dc32ac929ed19184970
上级
c59be192
变更
4
隐藏空白更改
内联
并排
Showing
4 changed file
with
52 addition
and
3 deletion
+52
-3
dnn/include/megdnn/dtype.h
dnn/include/megdnn/dtype.h
+9
-0
dnn/src/common/convolution.cpp
dnn/src/common/convolution.cpp
+10
-3
dnn/src/common/utils.cpp
dnn/src/common/utils.cpp
+19
-0
dnn/src/common/utils.h
dnn/src/common/utils.h
+14
-0
未找到文件。
dnn/include/megdnn/dtype.h
浏览文件 @
8ac73333
...
...
@@ -132,6 +132,15 @@ namespace megdnn {
cb(::megdnn::dtype::Quantized4Asymm) \
cb(::megdnn::dtype::QuantizedS4)
#define MEGDNN_FOREACH_QUANTIZED_DTYPE_SYMM(cb) \
cb(::megdnn::dtype::QuantizedS32) \
cb(::megdnn::dtype::QuantizedS8) \
cb(::megdnn::dtype::QuantizedS4)
#define MEGDNN_FOREACH_QUANTIZED_DTYPE_ASYMM(cb) \
cb(::megdnn::dtype::Quantized8Asymm) \
cb(::megdnn::dtype::Quantized4Asymm)
/*!
* \brief a POD representation of a single byte
*
...
...
dnn/src/common/convolution.cpp
浏览文件 @
8ac73333
...
...
@@ -604,9 +604,16 @@ void ConvolutionBase<Parameter>::check_or_deduce_dtype_fwd(DType src,
if
(
!
dst
.
valid
())
{
dst
=
supported_dst_dtype
.
at
(
0
);
}
else
{
megdnn_assert
(
vec_contains
(
supported_dst_dtype
,
dst
),
"unsupported Conv(%s, %s) -> %s"
,
src
.
name
(),
filter
.
name
(),
dst
.
name
());
bool
dst_supported
=
false
;
for
(
auto
&&
dt
:
supported_dst_dtype
)
{
if
(
dtype_almost_equal
(
dt
,
dst
))
{
dst_supported
=
true
;
break
;
}
}
MEGDNN_MARK_USED_VAR
(
dst_supported
);
megdnn_assert
(
dst_supported
,
"unsupported Conv(%s, %s) -> %s"
,
src
.
name
(),
filter
.
name
(),
dst
.
name
());
}
megdnn_assert
(
param
().
compute_mode
!=
Param
::
ComputeMode
::
FLOAT32
#if !MEGDNN_DISABLE_FLOAT16
...
...
dnn/src/common/utils.cpp
浏览文件 @
8ac73333
...
...
@@ -245,6 +245,25 @@ float megdnn::mul_scale(DType lhs, DType rhs) {
}
// clang-format on
bool
megdnn
::
dtype_almost_equal
(
DType
lhs
,
DType
rhs
)
{
if
(
lhs
.
enumv
()
!=
rhs
.
enumv
())
return
false
;
if
(
lhs
.
category
()
!=
DTypeCategory
::
QUANTIZED
)
return
true
;
#define cb(dt) \
if (lhs.enumv() == DTypeTrait<dt>::enumv) \
return almost_equal(lhs.param<dt>().scale, rhs.param<dt>().scale);
MEGDNN_FOREACH_QUANTIZED_DTYPE_SYMM
(
cb
)
#undef cb
#define cb(dt) \
if (lhs.enumv() == DTypeTrait<dt>::enumv) \
return almost_equal(lhs.param<dt>().scale, rhs.param<dt>().scale) && \
lhs.param<dt>().zero_point == rhs.param<dt>().zero_point;
MEGDNN_FOREACH_QUANTIZED_DTYPE_ASYMM
(
cb
)
#undef cb
megdnn_assert_internal
(
false
);
}
template
<
>
uint8_t
megdnn
::
convert
<
dt_quint4
,
uint8_t
>
(
dt_quint4
src
,
uint8_t
dst
,
size_t
offset
)
{
...
...
dnn/src/common/utils.h
浏览文件 @
8ac73333
...
...
@@ -434,6 +434,20 @@ int8_t convert<dt_qint4, int8_t>(dt_qint4 src, int8_t dst, size_t offset);
template
<
>
dt_qint4
convert
<
int8_t
,
dt_qint4
>
(
int8_t
src
,
dt_qint4
dst
,
size_t
offset
);
/*!
* \brief check float equal within given ULP(unit in the last place)
*/
template
<
class
T
>
static
inline
typename
std
::
enable_if
<!
std
::
numeric_limits
<
T
>::
is_integer
,
bool
>::
type
almost_equal
(
T
x
,
T
y
,
int
unit_last_place
=
1
)
{
return
std
::
abs
(
x
-
y
)
<
(
std
::
numeric_limits
<
T
>::
epsilon
()
*
std
::
abs
(
x
+
y
)
*
unit_last_place
)
||
std
::
abs
(
x
-
y
)
<
std
::
numeric_limits
<
T
>::
min
();
}
bool
dtype_almost_equal
(
DType
lhs
,
DType
rhs
);
/**
* \brief N-dimensional index space
*/
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录