Created by: alanse7en
RT. paddle v2中,在使用MPI集群训练时,两种设置,(1)100个节点,batch_size=128和(2)10个节点,batch_size=1280,两种方案整体的batch_size都是12800吧?理论上训练结果应该没有太大差别吧?