Created by: 123malin
-
这个pr新增了DistributedStrategy,用以统一CPU分布式训练的配置入口。用户可以通过调用StrategyFactory的create_sync_strategy, create_async_strategy, create_half_async_strategy, create_geo_strategy方法一步生成同步、异步、半异步、GEO模式的训练配置。
-
DistributedStrategy类包含5种配置,一是program_config,类型为DistributedTranspilerConfig,主要和分布式组网相关;二是trainer_runtime_config, 类型为TrainerRuntimeConfig,主要和trainer端运行时相关;三是server_runtime_config,类型为ServerRuntimeConfig,主要和server端运行时相关;四是buildstrategy,类型为fluid.BuildStrategy,主要和PE和图优化策略有关;五是execstrategy,类型为fluid.ExecutionStrategy,主要和执行器的执行配置有关。