“4838a5799f8f1318dac8c5863d19e626969f45b2”上不存在“benchmark/git@gitcode.net:s920243400/PaddleDetection.git”
[UT]fix test_poisson op random fail (#44763)
修复poisson op单测随机挂 原因:由于随机OP的无法直接验证数值正确性,该单测随机采样100万个样本,统计落到直方图各区间的数量,计算出粗略的概率密度函数,与标准概率密度函数对比,这种测试方式会有一定误差。 当采样数量越小,误差越大,因此该PR增大采样样本数量(100万->200万),误差进一步减小在rtol范围内。
Showing
想要评论请 注册 或 登录