未验证 提交 9eefc38c 编写于 作者: W Weilong Wu 提交者: GitHub

[Eager] fix windows overflow error (#46833)

上级 cadbd2cc
......@@ -178,7 +178,7 @@ static PyObject* tensor__add__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other = CastPyArg2AttrFloat(other_obj, 0);
}
{
......@@ -276,7 +276,7 @@ static PyObject* tensor__sub__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other = CastPyArg2AttrFloat(other_obj, 0);
}
{
eager_gil_scoped_release guard;
......@@ -369,7 +369,7 @@ static PyObject* tensor__rsub__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other = CastPyArg2AttrFloat(other_obj, 0);
}
{
eager_gil_scoped_release guard;
......@@ -464,7 +464,7 @@ static PyObject* tensor__mul__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other = CastPyArg2AttrFloat(other_obj, 0);
}
{
eager_gil_scoped_release guard;
......@@ -560,7 +560,7 @@ static PyObject* tensor__div__method(TensorObject* self,
if (PyFloat_Check(other_obj)) {
other = CastPyArg2AttrFloat(other_obj, 0);
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other = CastPyArg2AttrFloat(other_obj, 0);
}
if (_supported_int_dtype_.find(self_tensor.dtype()) !=
_supported_int_dtype_.end()) {
......@@ -673,7 +673,7 @@ static PyObject* tensor__rdiv__method(TensorObject* self,
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
}
if (_supported_int_dtype_.find(self_tensor.dtype()) !=
......@@ -791,7 +791,7 @@ static PyObject* tensor__gt__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
}
}
......@@ -876,7 +876,7 @@ static PyObject* tensor__ge__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
}
}
......@@ -962,7 +962,7 @@ static PyObject* tensor__mod__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
}
}
......@@ -1047,7 +1047,7 @@ static PyObject* tensor__matmul__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
}
}
......@@ -1147,7 +1147,7 @@ static PyObject* tensor__lt__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
}
}
......@@ -1232,7 +1232,7 @@ static PyObject* tensor__le__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
}
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true;
}
}
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册