固定随机数种子仍然不能每次稳定复现结果
Created by: agave233
对于图卷积的几个example(GCN/GAT/GIN),按照如下方式固定paddle和numpy的随机数种子:
seed = 123
train_program.random_seed = seed
startup_program.random_seed = seed
np.random.seed(seed)
random.seed(seed)
在cpu上每次的运行结果完全一样,但是在gpu上运行时每次差别很大;之后尝试把pgl的图卷积层去掉,这样模型在gpu上也可以稳定复现了,想问一下是不是pgl的底层实现对于cuda还存在某些随机性的操作?
ps:尝试过设置export FLAGS_cudnn_deterministic=True ,似乎也没有用