From 9eefc38ce6849afb4819537e569548a98a1556bc Mon Sep 17 00:00:00 2001
From: Weilong Wu <veyron_wu@163.com>
Date: Tue, 11 Oct 2022 14:21:18 +0800
Subject: [PATCH] [Eager] fix windows overflow error (#46833)

---
 paddle/fluid/pybind/eager_math_op_patch.cc | 24 +++++++++++-----------
 1 file changed, 12 insertions(+), 12 deletions(-)

diff --git a/paddle/fluid/pybind/eager_math_op_patch.cc b/paddle/fluid/pybind/eager_math_op_patch.cc
index 887eb73c0b1..f6ace5a9fef 100644
--- a/paddle/fluid/pybind/eager_math_op_patch.cc
+++ b/paddle/fluid/pybind/eager_math_op_patch.cc
@@ -178,7 +178,7 @@ static PyObject* tensor__add__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other = CastPyArg2AttrFloat(other_obj, 0);
     }
 
     {
@@ -276,7 +276,7 @@ static PyObject* tensor__sub__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other = CastPyArg2AttrFloat(other_obj, 0);
     }
     {
       eager_gil_scoped_release guard;
@@ -369,7 +369,7 @@ static PyObject* tensor__rsub__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other = CastPyArg2AttrFloat(other_obj, 0);
     }
     {
       eager_gil_scoped_release guard;
@@ -464,7 +464,7 @@ static PyObject* tensor__mul__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other = CastPyArg2AttrFloat(other_obj, 0);
     }
     {
       eager_gil_scoped_release guard;
@@ -560,7 +560,7 @@ static PyObject* tensor__div__method(TensorObject* self,
     if (PyFloat_Check(other_obj)) {
       other = CastPyArg2AttrFloat(other_obj, 0);
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other = CastPyArg2AttrFloat(other_obj, 0);
     }
     if (_supported_int_dtype_.find(self_tensor.dtype()) !=
         _supported_int_dtype_.end()) {
@@ -673,7 +673,7 @@ static PyObject* tensor__rdiv__method(TensorObject* self,
       other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     }
     if (_supported_int_dtype_.find(self_tensor.dtype()) !=
@@ -791,7 +791,7 @@ static PyObject* tensor__gt__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     }
   }
@@ -876,7 +876,7 @@ static PyObject* tensor__ge__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     }
   }
@@ -962,7 +962,7 @@ static PyObject* tensor__mod__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     }
   }
@@ -1047,7 +1047,7 @@ static PyObject* tensor__matmul__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     }
   }
@@ -1147,7 +1147,7 @@ static PyObject* tensor__lt__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     }
   }
@@ -1232,7 +1232,7 @@ static PyObject* tensor__le__method(TensorObject* self,
         self_tensor = cast_ad_func(self_tensor, DataType::FLOAT32);
       }
     } else if (PyCheckInteger(other_obj) || IsNumpyType(other_obj)) {
-      other_float = static_cast<float>(CastPyArg2AttrInt(other_obj, 0));
+      other_float = CastPyArg2AttrFloat(other_obj, 0);
       has_other_float = true;
     }
   }
-- 
GitLab