注意力机制API添加mask参数
Created by: MiloHang
scaled_dot_product_attention api 添加mask矩阵以防止padding对Attention网络参数造成的影响 如:
paddle.fluid.nets.scaled_dot_product_attention(queries, keys, values, num_heads=1, mask=None, dropout_rate=0.0)
Created by: MiloHang
scaled_dot_product_attention api 添加mask矩阵以防止padding对Attention网络参数造成的影响 如:
paddle.fluid.nets.scaled_dot_product_attention(queries, keys, values, num_heads=1, mask=None, dropout_rate=0.0)