Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
magicwindyyd
mindspore
提交
4d9491b5
M
mindspore
项目概览
magicwindyyd
/
mindspore
与 Fork 源项目一致
Fork自
MindSpore / mindspore
通知
1
Star
1
Fork
0
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
M
mindspore
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
提交
Issue看板
提交
4d9491b5
编写于
6月 06, 2020
作者:
B
buxue
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix bug of auto cast when there is scalar
上级
871d6524
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
7 addition
and
30 deletion
+7
-30
mindspore/ccsrc/operator/composite/do_signature.cc
mindspore/ccsrc/operator/composite/do_signature.cc
+7
-30
未找到文件。
mindspore/ccsrc/operator/composite/do_signature.cc
浏览文件 @
4d9491b5
...
...
@@ -65,21 +65,9 @@ void ProcessDefault(const std::string &func_name, const AbstractBasePtrList &arg
}
}
}
bool
CompareTensorScalarType
(
const
TypeId
&
tensor_type
,
const
size_t
&
t_type_number
,
const
TypeId
&
scalar_type
,
const
size_t
&
s_type_number
)
{
if
(
scalar_type
==
kNumberTypeFloat16
||
scalar_type
==
kNumberTypeFloat32
||
scalar_type
==
kNumberTypeFloat64
)
{
if
(
tensor_type
==
kNumberTypeFloat16
||
tensor_type
==
kNumberTypeFloat32
||
tensor_type
==
kNumberTypeFloat64
)
{
return
t_type_number
>=
s_type_number
;
}
return
false
;
}
return
true
;
}
void
SetMaxType
(
TypeId
*
max_type_id
,
TypeId
*
max_type
,
size_t
*
max_type_number
,
const
TypeId
type_id
,
const
TypeId
type
,
const
size_t
type_number
)
{
void
SetMaxType
(
TypeId
*
max_type_id
,
size_t
*
max_type_number
,
const
TypeId
type_id
,
const
size_t
type_number
)
{
*
max_type_id
=
type_id
;
*
max_type
=
type
;
*
max_type_number
=
type_number
;
}
...
...
@@ -118,7 +106,6 @@ bool GetTensorOrScalarTypeInfo(AbstractBasePtr arg_value, bool is_write, TypeId
TypeId
GetMaxTypeId
(
const
abstract
::
AbstractBasePtrList
&
args_spec_list
,
std
::
vector
<
size_t
>
indices
,
const
std
::
set
<
size_t
>
&
write_indices
)
{
TypeId
max_type_id
=
kTypeUnknown
;
TypeId
max_type
=
kTypeUnknown
;
size_t
max_type_number
=
0
;
bool
has_int8
=
false
;
for
(
const
auto
&
index
:
indices
)
{
...
...
@@ -128,6 +115,9 @@ TypeId GetMaxTypeId(const abstract::AbstractBasePtrList &args_spec_list, std::ve
if
(
!
GetTensorOrScalarTypeInfo
(
args_spec_list
[
index
],
is_write
,
&
arg_type_id
,
&
arg_type
))
{
continue
;
}
if
(
arg_type
!=
kObjectTypeTensorType
)
{
continue
;
}
auto
it
=
type_map
.
find
(
arg_type_id
);
if
(
it
==
type_map
.
end
())
{
continue
;
...
...
@@ -136,24 +126,11 @@ TypeId GetMaxTypeId(const abstract::AbstractBasePtrList &args_spec_list, std::ve
has_int8
=
true
;
}
if
(
max_type_id
==
kTypeUnknown
)
{
SetMaxType
(
&
max_type_id
,
&
max_type
,
&
max_type_number
,
arg_type_id
,
arg_type
,
it
->
second
);
SetMaxType
(
&
max_type_id
,
&
max_type
_number
,
arg_type_id
,
it
->
second
);
continue
;
}
if
(
max_type
==
arg_type
)
{
if
(
it
->
second
>
max_type_number
)
{
SetMaxType
(
&
max_type_id
,
&
max_type
,
&
max_type_number
,
arg_type_id
,
arg_type
,
it
->
second
);
}
}
else
{
if
(
arg_type
==
kObjectTypeTensorType
)
{
if
(
CompareTensorScalarType
(
arg_type_id
,
it
->
second
,
max_type_id
,
max_type_number
))
{
SetMaxType
(
&
max_type_id
,
&
max_type
,
&
max_type_number
,
arg_type_id
,
arg_type
,
it
->
second
);
}
}
else
{
if
(
!
CompareTensorScalarType
(
max_type_id
,
max_type_number
,
arg_type_id
,
it
->
second
))
{
SetMaxType
(
&
max_type_id
,
&
max_type
,
&
max_type_number
,
arg_type_id
,
arg_type
,
it
->
second
);
}
}
if
(
it
->
second
>
max_type_number
)
{
SetMaxType
(
&
max_type_id
,
&
max_type_number
,
arg_type_id
,
it
->
second
);
}
}
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录