Skip to content
体验新版
项目
组织
正在加载...
登录
切换导航
打开侧边栏
MegEngine 天元
MegEngine
提交
fe15239a
MegEngine
项目概览
MegEngine 天元
/
MegEngine
大约 1 年 前同步成功
通知
399
Star
4705
Fork
582
代码
文件
提交
分支
Tags
贡献者
分支图
Diff
Issue
0
列表
看板
标记
里程碑
合并请求
0
DevOps
流水线
流水线任务
计划
Wiki
0
Wiki
分析
仓库
DevOps
项目成员
Pages
MegEngine
项目概览
项目概览
详情
发布
仓库
仓库
文件
提交
分支
标签
贡献者
分支图
比较
Issue
0
Issue
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
Pages
DevOps
DevOps
流水线
流水线任务
计划
分析
分析
仓库分析
DevOps
Wiki
0
Wiki
成员
成员
收起侧边栏
关闭侧边栏
动态
分支图
创建新Issue
流水线任务
提交
Issue看板
提交
fe15239a
编写于
10月 14, 2021
作者:
M
Megvii Engine Team
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
fix(imperative): fix error message for tensors with intbx data type
GitOrigin-RevId: cbb42f8127320c4d45ac6dcb8171515e53e69bcb
上级
10af44ab
变更
1
隐藏空白更改
内联
并排
Showing
1 changed file
with
8 addition
and
7 deletion
+8
-7
imperative/python/src/numpy_dtypes_intbx.cpp
imperative/python/src/numpy_dtypes_intbx.cpp
+8
-7
未找到文件。
imperative/python/src/numpy_dtypes_intbx.cpp
浏览文件 @
fe15239a
...
...
@@ -24,7 +24,7 @@ template <size_t N>
struct
LowBitType
{
static_assert
(
N
<
8
,
"low bit only supports less than 8 bits"
);
static
int
npy_typenum
;
//!
numerical value (-3, -1, 1, 3
)
//!
allowed numerical value: odd numbers between (-max_value, max_value
)
int8_t
value
;
struct
PyObj
;
...
...
@@ -32,16 +32,17 @@ struct LowBitType {
const
static
int32_t
max_value
=
(
1
<<
N
)
-
1
;
//! check whether val is
(-3, -1, 1, 3
) and set python error
//! check whether val is
odd and between (-max_value, max_value
) and set python error
static
bool
check_value_set_err
(
int
val
)
{
int
t
=
val
+
max_value
;
if
((
t
&
1
)
||
t
<
0
||
t
>
(
max_value
<<
1
))
{
PyErr_SetString
(
PyExc_ValueError
,
mgb
::
ssprintf
(
"low bit dtype number error: "
"value=%d; allowed {-3, -1, 1, 3}"
,
val
)
.
c_str
());
PyExc_ValueError
,
mgb
::
ssprintf
(
"low bit dtype number error: "
"value=%d; allowed values are odd numbers between [%d,%d]"
,
val
,
-
max_value
,
max_value
)
.
c_str
());
return
false
;
}
...
...
编辑
预览
Markdown
is supported
0%
请重试
或
添加新附件
.
添加附件
取消
You are about to add
0
people
to the discussion. Proceed with caution.
先完成此消息的编辑!
取消
想要评论请
注册
或
登录