启动内存优化后,多个loss训练,获取loss值有异常
Created by: dyning
我的多个loss的程序调用fluid.memory_optimize(fluid.default_main_program())内存优化后,获取loss显示异常。并且相同环境,关闭fluid.memory_optimize优化,两个loss值有diff。 我调用的一些关键程序: train_exe = fluid.ParallelExecutor(use_cuda=True, loss_name=avg_loss.name) fetch_list_var = [] results = train_exe.run(fetch_list_var, feed=feed_dict)
建议可以拿googlenet的训练试试,看看是否可以复现。
@panyx0718