• Z
    [cherry pick] add op: fused_feedforward(backward) (#36730) · 76c1bae1
    zhangkaihuo 提交于
    * add op: fused_feedforward(backward) (#35611)
    
    这个PR是fused_feedforward反向的代码
    
    相关kernel实现:fused_dropout_act_bias, fused_residual_dropout_bias, fused_layernorm_residual_dropout_bias
    
    fused_feedforward是一个融合算子,该算子对transformer模型的feed forward层的算子进行融合和封装,使得前端只呈现一个接口,通过融合减少部分访存和kernel launch的时间,以此提升性能。
    
    * Move fused_attention and fused_feedforward functional api path to incubate (#36704)
    
    将 #35905 和 #35843 PR中新增的的python api接口移到incubate目录下。
    76c1bae1
test_fused_attention_op.py 9.1 KB