1. 04 12月, 2020 1 次提交
    • Z
      Support pure fp16 training for ResNet50. (#4979) · ba1b19c0
      Zhen Wang 提交于
      * add pure fp16 training.
      
      * update the usage of cast_parameters_to_fp16.
      
      * use fp32 to initilize parameter values and then cast to fp16.
      
      * enable multi_precision when training with fp16.
      
      * add static loss scaling.
      
      * add the rescale_grad function in the pure fp16 training.
      
      * use cast to complete the pure fp16 training.
      
      * use sum loss for fp16 trainging and mean loss for fp32 training.
      
      * refine codes according reviewers' suggestions
      ba1b19c0
  2. 25 11月, 2020 3 次提交
  3. 24 11月, 2020 1 次提交
  4. 20 11月, 2020 1 次提交
  5. 16 11月, 2020 1 次提交
  6. 11 11月, 2020 1 次提交
  7. 09 11月, 2020 3 次提交
  8. 06 11月, 2020 1 次提交
  9. 04 11月, 2020 2 次提交
  10. 03 11月, 2020 1 次提交
  11. 29 10月, 2020 2 次提交
  12. 28 10月, 2020 1 次提交
  13. 27 10月, 2020 3 次提交
  14. 22 10月, 2020 2 次提交
  15. 21 10月, 2020 1 次提交
  16. 15 10月, 2020 1 次提交
  17. 14 10月, 2020 1 次提交
  18. 13 10月, 2020 1 次提交
  19. 12 10月, 2020 1 次提交
  20. 10 10月, 2020 1 次提交
  21. 29 9月, 2020 1 次提交
  22. 27 9月, 2020 1 次提交
  23. 25 9月, 2020 6 次提交
  24. 24 9月, 2020 2 次提交
  25. 23 9月, 2020 1 次提交