未验证 提交 9eefc38c 编写于 作者: W Weilong Wu 提交者: GitHub

[Eager] fix windows overflow error (#46833)

上级 cadbd2cc
...@@ -178,7 +178,7 @@ static PyObject* tensor__add__method(TensorObject* self, ...@@ -178,7 +178,7 @@ static PyObject* tensor__add__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other = CastPyArg2AttrFloat(other_obj, 0);
} }
{ {
...@@ -276,7 +276,7 @@ static PyObject* tensor__sub__method(TensorObject* self, ...@@ -276,7 +276,7 @@ static PyObject* tensor__sub__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other = CastPyArg2AttrFloat(other_obj, 0);
} }
{ {
eager_gil_scoped_release guard; eager_gil_scoped_release guard;
...@@ -369,7 +369,7 @@ static PyObject* tensor__rsub__method(TensorObject* self, ...@@ -369,7 +369,7 @@ static PyObject* tensor__rsub__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other = CastPyArg2AttrFloat(other_obj, 0);
} }
{ {
eager_gil_scoped_release guard; eager_gil_scoped_release guard;
...@@ -464,7 +464,7 @@ static PyObject* tensor__mul__method(TensorObject* self, ...@@ -464,7 +464,7 @@ static PyObject* tensor__mul__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other = CastPyArg2AttrFloat(other_obj, 0);
} }
{ {
eager_gil_scoped_release guard; eager_gil_scoped_release guard;
...@@ -560,7 +560,7 @@ static PyObject* tensor__div__method(TensorObject* self, ...@@ -560,7 +560,7 @@ static PyObject* tensor__div__method(TensorObject* self,
if (PyFloat_Check(other_obj)) { if (PyFloat_Check(other_obj)) {
other = CastPyArg2AttrFloat(other_obj, 0); other = CastPyArg2AttrFloat(other_obj, 0);
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other = CastPyArg2AttrFloat(other_obj, 0);
} }
if (_supported_int_dtype_.find(self_tensor.dtype()) != if (_supported_int_dtype_.find(self_tensor.dtype()) !=
_supported_int_dtype_.end()) { _supported_int_dtype_.end()) {
...@@ -673,7 +673,7 @@ static PyObject* tensor__rdiv__method(TensorObject* self, ...@@ -673,7 +673,7 @@ static PyObject* tensor__rdiv__method(TensorObject* self,
other_float = CastPyArg2AttrFloat(other_obj, 0); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} }
if (_supported_int_dtype_.find(self_tensor.dtype()) != if (_supported_int_dtype_.find(self_tensor.dtype()) !=
...@@ -791,7 +791,7 @@ static PyObject* tensor__gt__method(TensorObject* self, ...@@ -791,7 +791,7 @@ static PyObject* tensor__gt__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} }
} }
...@@ -876,7 +876,7 @@ static PyObject* tensor__ge__method(TensorObject* self, ...@@ -876,7 +876,7 @@ static PyObject* tensor__ge__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} }
} }
...@@ -962,7 +962,7 @@ static PyObject* tensor__mod__method(TensorObject* self, ...@@ -962,7 +962,7 @@ static PyObject* tensor__mod__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} }
} }
...@@ -1047,7 +1047,7 @@ static PyObject* tensor__matmul__method(TensorObject* self, ...@@ -1047,7 +1047,7 @@ static PyObject* tensor__matmul__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} }
} }
...@@ -1147,7 +1147,7 @@ static PyObject* tensor__lt__method(TensorObject* self, ...@@ -1147,7 +1147,7 @@ static PyObject* tensor__lt__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} }
} }
...@@ -1232,7 +1232,7 @@ static PyObject* tensor__le__method(TensorObject* self, ...@@ -1232,7 +1232,7 @@ static PyObject* tensor__le__method(TensorObject* self,
self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32); self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
} }
} else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) { } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0)); other_float = CastPyArg2AttrFloat(other_obj, 0);
has_other_float = true; has_other_float = true;
} }
} }
......
Markdown is supported
0% .
You are about to add 0 people to the discussion. Proceed with caution.
先完成此消息的编辑!
想要评论请 注册