关于离线量化中calibration代码的一些疑惑
Created by: wzzju
- 关于P_sum的计算
从上述代码来看,P_sum的值其实是预测采样时进行迭代的次数。实际上应该为activation_blob中元素的总个数,此处代码应为
P_sum = len(activation_blob.flatten())
。
下述链接处代码的一些疑惑:https://github.com/PaddlePaddle/Paddle/blob/develop/python/paddle/fluid/contrib/int8_inference/utility.py#L674
根据674行代码的上下文可知min_kl_index必然大于等于starting_iter,若min_kl_index=0,则必然是因为starting_iter等于0,那么while循环条件就不会成立,最后min_kl_index=starting_iter=0。即这段if语句就算成立也是什么都没有做,请问这段代码是否是冗余的呢?