在训练和测试阶段，batchnorm 的 mean，variance，bias，scale有diff。
Created by: Dely-Yu
本地，单卡GPU：K40.
fluid1.5
。
数据总量为32张图，训练的batchsize为32，测试batchsize为32.
每个训练iter打出batch层的mean，variance，bias，scale值。
在线测试的时候也输出mean，variance，bias，scale值，想check下测试时batchnorm的参数。
问题是： 1。第100个iter，输出了这4个量，随即测试，也输出了这4个量。发现不一致。预期是应该一致，因为每个训练iter会更新mean，variance，print输出的是更新后的mean，variance。测试的时候直接拿来mean，variance来用。