• zhouweiwei2014's avatar
    [UT]fix test_poisson op random fail (#44763) · b71833ea
    zhouweiwei2014 提交于
    修复poisson op单测随机挂
    
    原因:由于随机OP的无法直接验证数值正确性,该单测随机采样100万个样本,统计落到直方图各区间的数量,计算出粗略的概率密度函数,与标准概率密度函数对比,这种测试方式会有一定误差。
    当采样数量越小,误差越大,因此该PR增大采样样本数量(100万->200万),误差进一步减小在rtol范围内。
    b71833ea
test_poisson_op.py 6.2 KB