启动内存优化后,多个loss训练,获取loss值有异常
Created by: dyning
我的多个loss的程序调用fluid.memory_optimize(fluid.default_main_program())内存优化后,获取loss显示异常。并且相同环境,关闭fluid.memory_optimize优化,两个loss值有diff。
我调用的一些关键程序:
train_exe = fluid.ParallelExecutor(use_cuda=True, loss_name=avg_loss.name)
fetch_list_var = []
results = train_exe.run(fetch_list_var, feed=feed_dict)
建议可以拿googlenet的训练试试,看看是否可以复现。
@panyx0718