Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
Crayon鑫
Paddle
提交
5828101c
P
Paddle
项目概览
Crayon鑫
/
Paddle
与 Fork 源项目一致
Fork自
PaddlePaddle / Paddle
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
1
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
P
Paddle
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
1
Issue
1
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
未验证
提交
5828101c
编写于
5月 21, 2018
作者:
D
dzhwinter
提交者:
GitHub
5月 21, 2018
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
make uint8 support in data_type transform and memory optimize (#10715)
* "a piece of job." * "fix typeo" * "fix ci"
上级
ebefdbe3
变更
4
显示空白变更内容
内联
并排
Showing
4 changed file
with
11 addition
and
1 deletion
+11
-1
paddle/fluid/framework/data_type_transform.cc
paddle/fluid/framework/data_type_transform.cc
+6
-0
paddle/fluid/pybind/protobuf.cc
paddle/fluid/pybind/protobuf.cc
+1
-0
python/paddle/fluid/framework.py
python/paddle/fluid/framework.py
+2
-0
python/paddle/fluid/transpiler/memory_optimization_transpiler.py
...paddle/fluid/transpiler/memory_optimization_transpiler.py
+2
-1
未找到文件。
paddle/fluid/framework/data_type_transform.cc
浏览文件 @
5828101c
...
@@ -91,6 +91,12 @@ void TransDataType(const OpKernelType& kernel_type_for_var,
...
@@ -91,6 +91,12 @@ void TransDataType(const OpKernelType& kernel_type_for_var,
case
proto
::
VarType
::
BOOL
:
case
proto
::
VarType
::
BOOL
:
framework
::
VisitDataType
(
dst_type
,
CastDataType
<
bool
>
(
in
,
out
,
ctx
));
framework
::
VisitDataType
(
dst_type
,
CastDataType
<
bool
>
(
in
,
out
,
ctx
));
break
;
break
;
case
proto
::
VarType
::
INT16
:
framework
::
VisitDataType
(
dst_type
,
CastDataType
<
bool
>
(
in
,
out
,
ctx
));
break
;
case
proto
::
VarType
::
UINT8
:
framework
::
VisitDataType
(
dst_type
,
CastDataType
<
bool
>
(
in
,
out
,
ctx
));
break
;
default:
default:
PADDLE_THROW
(
"Not support type %d"
,
src_type
);
PADDLE_THROW
(
"Not support type %d"
,
src_type
);
}
}
...
...
paddle/fluid/pybind/protobuf.cc
浏览文件 @
5828101c
...
@@ -238,6 +238,7 @@ void BindVarDsec(pybind11::module *m) {
...
@@ -238,6 +238,7 @@ void BindVarDsec(pybind11::module *m) {
pybind11
::
enum_
<
pd
::
proto
::
VarType
::
Type
>
(
var_desc
,
"VarType"
,
""
)
pybind11
::
enum_
<
pd
::
proto
::
VarType
::
Type
>
(
var_desc
,
"VarType"
,
""
)
.
value
(
"BOOL"
,
pd
::
proto
::
VarType
::
BOOL
)
.
value
(
"BOOL"
,
pd
::
proto
::
VarType
::
BOOL
)
.
value
(
"UINT8"
,
pd
::
proto
::
VarType
::
UINT8
)
.
value
(
"INT16"
,
pd
::
proto
::
VarType
::
INT16
)
.
value
(
"INT16"
,
pd
::
proto
::
VarType
::
INT16
)
.
value
(
"INT32"
,
pd
::
proto
::
VarType
::
INT32
)
.
value
(
"INT32"
,
pd
::
proto
::
VarType
::
INT32
)
.
value
(
"INT64"
,
pd
::
proto
::
VarType
::
INT64
)
.
value
(
"INT64"
,
pd
::
proto
::
VarType
::
INT64
)
...
...
python/paddle/fluid/framework.py
浏览文件 @
5828101c
...
@@ -72,6 +72,8 @@ def convert_np_dtype_to_dtype_(np_dtype):
...
@@ -72,6 +72,8 @@ def convert_np_dtype_to_dtype_(np_dtype):
return
core
.
VarDesc
.
VarType
.
INT64
return
core
.
VarDesc
.
VarType
.
INT64
elif
dtype
==
np
.
bool
:
elif
dtype
==
np
.
bool
:
return
core
.
VarDesc
.
VarType
.
BOOL
return
core
.
VarDesc
.
VarType
.
BOOL
elif
dtype
==
np
.
uint8
:
return
core
.
VarDesc
.
VarType
.
UINT8
else
:
else
:
raise
ValueError
(
"Not supported numpy dtype "
+
str
(
dtype
))
raise
ValueError
(
"Not supported numpy dtype "
+
str
(
dtype
))
...
...
python/paddle/fluid/transpiler/memory_optimization_transpiler.py
浏览文件 @
5828101c
...
@@ -24,7 +24,8 @@ dtype_to_size = {
...
@@ -24,7 +24,8 @@ dtype_to_size = {
core
.
VarDesc
.
VarType
.
INT16
:
2
,
core
.
VarDesc
.
VarType
.
INT16
:
2
,
core
.
VarDesc
.
VarType
.
INT32
:
4
,
core
.
VarDesc
.
VarType
.
INT32
:
4
,
core
.
VarDesc
.
VarType
.
INT64
:
8
,
core
.
VarDesc
.
VarType
.
INT64
:
8
,
core
.
VarDesc
.
VarType
.
BOOL
:
1
core
.
VarDesc
.
VarType
.
BOOL
:
1
,
core
.
VarDesc
.
VarType
.
UINT8
:
1
,
}
}
SUB_BLOCK_OPS
=
[
SUB_BLOCK_OPS
=
[
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录