Created by: GaoWei8
PR types
New features
PR changes
OPs
Describe
新增一个cudnn_rnn_flatten_weight_op实现CUDNN与非CUDNN实现参数转换。
内容:CUDNN使用特定的参数格式,若自动切换CUDNN,也需要自动转换参数(CUDNN实现中使用合并的参数,非CUDNN实现参数分开存放)
- 在C++端完成参数转换,并将新参数和原参数的共享存储,新参数对用户隐藏,用户仍使用原参数;并在检测到参数不合要求时(如某个参数指向了其他参数而不再连续)在执行时重新转换并打warning(pytorch的方法),较多内容需要由C++端完成。