Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
Xiaomi
Mace
提交
35844e03
Mace
项目概览
Xiaomi
/
Mace
通知
106
Star
40
Fork
27
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
Mace
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
体验新版 GitCode,发现更多精彩内容 >>
提交
35844e03
编写于
1月 16, 2018
作者:
李
李寅
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Refactor quantize adjust
上级
f8637922
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
22 addition
and
10 deletion
+22
-10
mace/core/runtime/hexagon/quantize.cc
mace/core/runtime/hexagon/quantize.cc
+22
-10
未找到文件。
mace/core/runtime/hexagon/quantize.cc
浏览文件 @
35844e03
...
...
@@ -53,16 +53,28 @@ void Quantizer::QuantizeAdjustRange(float min_in,
float
*
recip_stepsize_out
)
{
float
minval
=
std
::
min
(
0.0
f
,
min_in
);
float
maxval
=
std
::
max
(
0.0
f
,
max_in
);
float
range
=
fmaxf
(
0.0001
f
,
maxval
-
minval
);
float
stepsize
=
range
/
254.0
f
;
float
recip_stepsize
=
254.0
f
/
range
;
// round quantized_zero up so min_out <= minval
int
quantized_zero
=
((
0.0
f
-
minval
)
*
recip_stepsize
)
+
0.999
;
float
newmin
=
-
quantized_zero
*
stepsize
;
float
newmax
=
255.0
f
*
stepsize
+
newmin
;
*
min_out
=
newmin
;
*
max_out
=
newmax
;
*
stepsize_out
=
stepsize
;
float
range
=
std
::
max
(
0.0001
f
,
maxval
-
minval
);
float
recip_stepsize
=
255.0
f
/
range
;
// make z(q0) integer
if
(
minval
<
0.0
f
)
{
float
z
=
-
minval
*
recip_stepsize
;
float
zi
=
floorf
(
z
);
float
zf
=
z
-
zi
;
if
(
zf
>
0.0001
f
&&
zf
<
0.9999
f
)
{
if
(
zi
>
0.0
f
&&
(
zi
>=
254.0
f
||
(
zf
-
1.0
f
)
*
minval
>
zf
*
maxval
))
{
range
=
-
255.0
f
*
minval
/
zi
;
maxval
=
minval
+
range
;
}
else
{
range
=
255.0
f
*
maxval
/
(
254.0
f
-
zi
);
minval
=
maxval
-
range
;
}
recip_stepsize
=
255.0
f
/
range
;
}
}
*
min_out
=
minval
;
*
max_out
=
maxval
;
*
stepsize_out
=
range
/
255.0
f
;
*
recip_stepsize_out
=
recip_stepsize
;
}
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录