op_compat.yaml 33.6 KB
Newer Older
1 2 3 4 5 6 7 8 9 10 11
# All the configuration in this file are only for existing operators,
# which cannot be modified in principle. There's no need to configure
# this file for new operator.
#
# This file is used for two purposes:
# 1. Configure the mapping relationship of parameter names of operator
#    between the operators in ops.yaml and the old operators defined
#    in fluid.
# 2. Save the extra parameters in the OpMaker of operators temporarily,
#    which will be removed in the future.

12 13 14 15 16
# - op : rnn
#   backward : rnn_grad
#   extra :
#     attrs : [bool is_test = false]

17
- op : abs
18
  backward : abs_grad
19 20 21 22
  inputs :
    x : X
  outputs :
    out : Out
23
  extra :
H
HongyuJia 已提交
24
    attrs : [bool use_mkldnn = false]
25

26 27 28 29 30 31
- op : acos
  inputs :
    x : X
  outputs :
    out : Out

32
- op : acosh
33 34 35 36
  inputs :
    x : X
  outputs :
    out : Out
37 38 39 40
  backward : acosh_grad
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

41 42 43 44 45 46
- op : add (elementwise_add)
  backward : add_grad (elementwise_add_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

47
- op : addmm
48
  backward : addmm_grad
49 50 51 52 53 54
  inputs :
    {input : Input, x : X, y : Y}
  outputs :
    out : Out
  attrs :
    {alpha : Alpha, beta : Beta}
55 56 57
  extra :
    attrs : [bool use_mkldnn = false]

58
- op : affine_grid
59 60 61 62
  backward : affine_grid_grad
  extra :
    attrs : [bool use_cudnn = true]

63 64 65 66 67 68 69 70 71 72 73 74 75
- op : allclose
  inputs :
    {x : Input, y : Other}
  outputs :
    out : Out
  scalar :
    rtol :
      data_type : std::string
      tensor_name : Rtol
    atol :
      data_type : std::string
      tensor_name : Atol

76
- op : angle
77
  backward : angle_grad
78 79 80 81
  inputs :
    x : X
  outputs :
    out : Out
82
  extra :
H
HongyuJia 已提交
83
    attrs : [bool use_mkldnn = false]
84

85 86 87 88 89 90 91
- op : argsort
  inputs :
    x : X
  outputs :
    out : Out
    indices : Indices

92 93 94 95 96 97 98 99 100 101 102 103
- op : as_complex
  inputs :
    x : X
  outputs :
    out : Out

- op : as_real
  inputs :
    x : X
  outputs :
    out : Out

104 105 106 107 108 109
- op : asin
  inputs :
    x : X
  outputs :
    out : Out

110
- op : asinh
111
  backward : asinh_grad
112 113 114 115
  inputs :
    x : X
  outputs :
    out : Out
116 117 118
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

119 120 121 122 123 124
- op : atan
  inputs :
    x : X
  outputs :
    out : Out

125
- op : atan2
126
  inputs :
127
    {x : X1, y : X2}
128 129 130
  outputs :
    out : Out

131
- op : atanh
132
  backward : atanh_grad
133 134 135 136
  inputs :
    x : X
  outputs :
    out : Out
137 138 139
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

140
- op : batch_norm
141 142 143 144
  backward : batch_norm_grad
  extra :
    attrs : [bool use_mkldnn = false, bool fuse_with_relu = false]

145
- op : bernoulli
146 147 148 149 150
  inputs :
    x : X
  outputs :
    out : Out

151
- op : bicubic_interp (bicubic_interp_v2)
152 153 154 155
  backward : bicubic_interp_grad (bicubic_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

156
- op : bilinear_interp (bilinear_interp_v2)
157 158 159 160
  backward : bilinear_interp_grad (bilinear_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

161 162 163 164 165 166
- op : bmm
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

167 168 169 170 171 172 173 174
- op : broadcast_tensors
  backward : broadcast_tensors_grad
  inputs :
    input : X
  outputs :
    out : Out
  drop_empty_grad : [input_grad]

175
- op : ceil
176
  backward : ceil_grad
177 178 179 180
  inputs :
    x : X
  outputs :
    out : Out
181 182 183
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

184 185 186 187 188 189 190
- op : celu
  backward : celu_grad, celu_double_grad(celu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out

191
- op : cholesky
192 193 194 195 196
  inputs :
    x : X
  outputs :
    out : Out

197
- op : cholesky_solve
198 199 200 201 202
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

203
- op : clip
204 205 206 207 208 209 210 211 212 213 214 215
  backward : clip_grad, clip_double_grad
  inputs :
    x : X
  outputs :
    out : Out
  scalar :
    min :
      data_type : float
      tensor_name : Min
    max :
      data_type :  float
      tensor_name : Max
216 217 218
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

219 220 221 222 223 224 225
- op : complex
  backward : complex_grad
  inputs :
    {real : X, imag : Y}
  outputs :
    out : Out

226
- op : concat
227 228 229 230
  backward : concat_grad
  extra :
    attrs : [bool use_mkldnn = false, bool use_quantizer = false, str mkldnn_data_type = "float32"]

231 232 233 234 235
- op : conditional_block
  backward : conditional_block_grad
  extra :
    attrs : ['str[] skip_eager_deletion_vars = {}']

236 237 238 239 240 241
- op : conj
  inputs :
    x : X
  outputs :
    out : Out

242
- op : conv2d
243
  backward : conv2d_grad
244
  extra :
245 246
    attrs : [bool is_test = false, bool use_cudnn = true, bool use_mkldnn = false, bool use_addto = false,
             str mkldnn_data_type = "float32", bool force_fp32_output = false,
247
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
248

249
- op : conv2d_fusion
F
Feiyu Chan 已提交
250
  extra :
251
    attrs : [bool is_test = false, bool use_cudnn = false, bool fuse_relu_before_depthwise_conv = false, bool use_mkldnn = false,
F
Feiyu Chan 已提交
252
             bool use_quantizer = false, str mkldnn_data_type = "float32", bool fuse_relu = false,
253
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f, bool use_addto = false,
F
Feiyu Chan 已提交
254 255
             bool fuse_residual_connection = false, float Scale_in = 1.0f, float Scale_out = 1.0f,
             float Scale_in_eltwise = 1.0f, 'float[] Scale_weights = {1.0f}', bool force_fp32_output = false,
256
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
257

258
- op : conv2d_transpose
259 260 261 262 263
  backward : conv2d_transpose_grad
  extra :
    attrs : [bool is_test = false, bool use_cudnn = true, bool use_mkldnn = false, bool force_fp32_output = false,
             str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f,
264
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB()]
265

266
- op : conv3d
267 268 269 270 271
  backward : conv3d_grad
  extra :
    attrs : [bool is_test = false, bool use_cudnn = true, bool use_mkldnn = false, str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f,
             bool use_addto = false, bool fuse_residual_connection = false, bool force_fp32_output = false,
272
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
273

274
- op : conv3d_transpose
275 276
  backward : conv3d_transpose_grad
  extra :
277
    attrs : [bool use_cudnn = true, bool use_mkldnn = false, int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB()]
F
Feiyu Chan 已提交
278

279
- op : cos
280
  backward : cos_grad, cos_double_grad, cos_triple_grad
281 282 283 284
  inputs :
    x : X
  outputs :
    out : Out
285 286 287
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

288
- op : cosh
289
  backward : cosh_grad
290 291 292 293
  inputs :
    x : X
  outputs :
    out : Out
294 295 296
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

297 298 299 300 301 302 303 304 305 306 307 308 309 310 311 312
- op : crop (crop_tensor)
  backward : crop_grad (crop_tensor_grad)
  inputs :
    x : X
  outputs :
    out : Out
  int_array:
    shape :
      data_type : int
      tensor_name : Shape
      tensors_name : ShapeTensor
    offsets :
      data_type : int
      tensor_name : Offsets
      tensors_name : OffsetsTensor

313
- op : cross
314 315
  inputs :
    {x : X, y : Y}
316 317 318 319 320
  attrs :
    axis : dim
  outputs :
    out : Out

321
- op : data_norm
322 323 324 325
  backward : data_norm_grad
  extra :
    attrs : [bool use_mkldnn = false]

326
- op : depthwise_conv2d
327 328
  backward : depthwise_conv2d_grad
  extra :
329
    attrs : [bool is_test = false, bool fuse_relu_before_depthwise_conv = false, bool use_mkldnn = false,
330 331 332 333
             bool use_quantizer = false, str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f, bool use_addto = false,
             bool fuse_residual_connection = false, float Scale_in = 1.0f, float Scale_out = 1.0f,
             float Scale_in_eltwise = 1.0f, 'float[] Scale_weights = {1.0f}', bool force_fp32_output = false,
334
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
335

336
- op : depthwise_conv2d_transpose
337 338 339 340 341
  backward : depthwise_conv2d_transpose_grad
  extra :
    attrs : [bool is_test = false, bool use_cudnn = false, bool use_mkldnn = false, bool force_fp32_output = false,
             str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f,
342
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB()]
343

344 345 346 347
- op : dequantize_linear
  extra :
    attrs : [float moving_rate = 0.9]

348 349 350 351 352 353 354
- op : det (determinant)
  backward : det_grad (determinant_grad)
  inputs :
    x : Input
  outputs :
    out : Out

355
- op : diag (diag_v2)
356
  backward : diag_grad (diag_v2_grad)
357 358 359 360 361
  inputs :
    x : X
  outputs :
    out : Out

362 363 364 365 366 367
- op : diag_embed
  inputs :
    input : Input
  outputs :
    out : Out

368
- op : diagonal
369 370 371 372 373
  inputs :
    x : Input
  outputs :
    out : Out

374
- op : digamma
375 376 377 378 379
  inputs :
    x : X
  outputs :
    out : Out

380
- op : dist
381 382 383 384 385
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

386 387 388 389
- op : distributed_push_sparse
  extra :
    attrs : ['int[] slots = {}']

390 391 392 393 394 395
- op : divide (elementwise_div)
  backward : divide_grad (elementwise_div)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

396
- op : dot
397 398 399 400 401
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

402
- op : dropout
403 404 405 406
  backward : dropout_grad
  extra :
    attrs : [bool fix_seed = false, int seed = 0]

407
- op : dropout_nd
408 409 410 411
  backward : dropout_nd_grad
  extra :
    attrs : [bool fix_seed = false, int seed = 0]

412 413 414 415 416 417 418 419 420 421 422 423 424 425 426 427 428 429 430 431
- op : eig
  inputs :
    x : X
  outputs :
    out_w : Eigenvalues
    out_v : Eigenvectors

- op : eigh
  inputs :
    x : X
  outputs :
    out_w : Eigenvalues
    out_v : Eigenvectors

- op : eigvals
  inputs :
    x : X
  outputs :
    out : Out

432 433 434 435 436 437
- op : elementwise_pow
  backward : elementwise_pow_grad
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

438
- op : elu
439 440 441 442 443
  backward : elu_grad, elu_double_grad (elu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
444 445 446
  extra :
    attrs : [bool use_mkldnn = false]

447 448 449 450 451 452 453
- op : embedding (lookup_table_v2)
  backward : embedding_grad (lookup_table_v2_grad)
  extra :
    attrs : [bool is_sparse = false, bool is_distributed = false, bool remote_prefetch = false,
             int trainer_id = 0, int slot = 0, 'int64_t[] height_sections = {}', 'str[] epmap = {}',
             'str[] table_names = {}']

454 455 456 457 458 459
- op : equal_all
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

460
- op : erf
461 462 463 464 465
  inputs :
    x : X
  outputs :
    out : Out

466
- op : erfinv
467 468 469 470 471
  inputs :
    x : X
  outputs :
    out : Out

472
- op : exp
473
  backward : exp_grad
474 475 476 477
  inputs :
    x : X
  outputs :
    out : Out
478 479
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]
480

481 482 483 484 485
- op : expand (expand_v2)
  backward : expand_grad (expand_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

486
- op : expm1
487
  backward : expm1_grad
488 489 490 491
  inputs :
    x : X
  outputs :
    out : Out
492 493 494
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

495 496 497 498 499 500 501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522
- op : fake_channel_wise_quantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_channel_wise_quantize_dequantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_dequantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_dequantize_moving_average_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_moving_average_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_range_abs_max
  extra :
    attrs : [int round_type = 1]

523
- op : fft_c2c
524 525 526
  inputs: {x: X}
  outputs: {out: Out}

527
- op : fft_c2r
528 529 530
  inputs: {x: X}
  outputs: {out: Out}

531
- op : fft_r2c
532 533 534
  inputs: {x: X}
  outputs: {out: Out}

535 536 537 538 539 540 541
- op : fill_diagonal
  backward : fill_diagonal_grad
  inputs :
    x : X
  outputs :
    out : Out

542 543 544 545 546 547
- op : fill_diagonal_tensor
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

548 549 550 551 552 553
- op : flip
  inputs :
    x : X
  outputs :
    out : Out

554 555
- op : floor
  backward : floor_grad
556 557 558 559
  inputs :
    x : X
  outputs :
    out : Out
560 561 562
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

563 564 565 566 567 568 569 570 571 572 573 574 575 576 577 578 579
- op : floor_divide (elementwise_floordiv)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

- op : fmax (elementwise_fmax)
  backward : fmax_grad (elementwise_fmax_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

- op : fmin (elementwise_fmin)
  backward : fmin_grad (elementwise_fmin_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

580 581 582 583 584 585
- op : fold
  inputs :
    x : X
  outputs :
    out : Y

586 587 588 589 590 591 592
- op : frame
  backward : frame_grad
  inputs :
    x : X
  outputs :
    out : Out

593
- op : frobenius_norm
594 595 596 597
  backward : frobenius_norm_grad
  extra :
    attrs : [bool use_mkldnn = false]

598 599 600 601
- op : full (fill_constant)
  extra :
    attrs : [bool use_mkldnn = false]

602 603 604 605 606
- op : fused_conv2d
  extra :
    attrs : [bool use_cudnn = false, float fuse_alpha = 0.0f, float fuse_beta = 0.0f, float Scale_in = 1.0f,
             float Scale_out = 1.0f, float Scale_in_eltwise = 1.0f, 'float[] Scale_weights = {1.0f}']

607 608 609 610 611
- op : gather
  backward : gather_grad
  extra :
    attrs : [bool overwrite = true]

612 613 614 615 616 617 618
- op : gather_nd
  backward : gather_nd_grad
  inputs :
    {x : X, index : Index}
  outputs :
    out : Out

619 620 621 622 623 624
- op : gather_tree
  inputs :
    {ids : Ids, parents : Parents}
  outputs :
    out : Out

625
- op : gelu
626
  backward : gelu_grad
627 628 629 630
  inputs :
    x : X
  outputs :
    out : Out
631
  extra :
H
HongyuJia 已提交
632
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]
633

634 635 636 637 638
- op : grad_add
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

639 640 641 642 643 644
- op : grid_sample(grid_sampler)
  backward : grid_sample_grad (grid_sampler_grad)
  inputs :
    {x : X, grid : Grid}
  outputs :
    out : Output
645 646 647
  extra :
    attrs : [bool use_cudnn = true]

648
- op : gru
649 650 651 652
  backward : gru_grad
  extra :
    attrs : [bool is_test = false]

653 654 655 656 657 658
- op : gumbel_softmax
  inputs :
    x : X
  outputs :
    out : Out

659 660 661 662 663
- op : hard_swish
  backward : hard_swish_grad
  extra :
    attrs : [bool use_mkldnn = false]

664 665 666 667 668 669 670 671 672 673 674 675 676 677
- op : hardshrink (hard_shrink)
  backward : hardshrink_grad (hard_shrink_grad)
  inputs :
    x : X
  outputs :
    out : Out

- op : hardsigmoid (hard_sigmoid)
  backward : hardsigmoid_grad (hard_sigmoid_grad)
  inputs :
    x : X
  outputs :
    out : Out

678 679 680 681 682 683 684
- op : hardtanh (brelu)
  backward : hardtanh_grad (brelu_grad)
  inputs :
    x : X
  outputs :
    out : Out

685 686 687 688 689 690
- op : heaviside (elementwise_heaviside)
  backward : heaviside_grad (elementwise_heaviside_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

691 692 693 694 695 696
- op : histogram
  inputs :
    input : X
  outputs :
    out : Out

697 698 699 700 701 702 703
- op : imag
  backward : imag_grad
  inputs :
    x : X
  outputs :
    out : Out

704 705 706 707 708 709 710 711 712 713 714 715 716 717
- op : index_sample
  inputs :
    {x : X, index : Index}
  outputs :
    out : Out

- op : index_select
  inputs :
    {x : X, index : Index}
  outputs :
    out : Out
  attrs :
    axis : dim

718
- op : inplace_abn
719 720 721 722
  backward : inplace_abn_grad
  extra :
    attrs : [bool use_mkldnn = false, bool fuse_with_relu = false]

723 724 725 726 727 728
- op : inverse
  inputs :
    x : Input
  outputs :
    out : Output

729 730 731 732 733 734
- op : is_empty
  inputs :
    x : X
  outputs :
    out : Out

735 736 737 738 739 740 741 742 743 744 745 746 747
- op : isclose
  inputs :
    {x : Input, y : Other}
  outputs :
    out : Out
  scalar :
    rtol :
      data_type : std::string
      tensor_name : Rtol
    atol :
      data_type : std::string
      tensor_name : Atol

748 749 750 751 752 753 754 755 756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773 774 775 776 777
- op : isfinite (isfinite_v2)
  inputs :
    x : X
  outputs :
    out : Out

- op : isinf (isinf_v2)
  inputs :
    x : X
  outputs :
    out : Out

- op : isnan (isnan_v2)
  inputs :
    x : X
  outputs :
    out : Out

- op : kthvalue
  inputs :
    x : X
  outputs :
    {out : Out, indices : Indices}

- op : label_smooth
  inputs :
    {label : X, prior_dist : PriorDist}
  outputs :
    out : Out

778
- op : layer_norm
779 780 781 782
  backward : layer_norm_grad
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32", bool is_test = false]

783
- op : leaky_relu
784 785 786 787 788 789 790
  backward : leaky_relu_grad, leaky_relu_double_grad (leaky_relu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
  attrs:
    negative_slope : alpha
791 792 793
  extra :
    attrs : [bool use_mkldnn = false]

794 795 796 797 798 799 800
- op : lerp
  backward : lerp_grad
  inputs :
    {x : X, y : Y, weight : Weight}
  outputs :
    out : Out

801
- op : lgamma
802 803 804 805 806
  inputs :
    x : X
  outputs :
    out : Out

807
- op : linear_interp (linear_interp_v2)
808 809 810 811
  backward : linear_interp_grad (linear_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

812
- op : log
813 814 815 816 817
  backward : log_grad, log_double_grad (log_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
818 819 820
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

821
- op : log10
822
  backward : log10_grad
823 824 825 826
  inputs :
    x : X
  outputs :
    out : Out
827 828 829
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

830
- op : log1p
831
  backward : log1p_grad
832 833 834 835
  inputs :
    x : X
  outputs :
    out : Out
836 837 838
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

839
- op : log2
840
  backward : log2_grad
841 842 843 844
  inputs :
    x : X
  outputs :
    out : Out
845 846 847
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

848 849 850 851 852 853 854
- op : log_loss
  backward : log_loss_grad
  inputs :
    {input : Predicted, label : Labels}
  outputs :
    out : Loss

855
- op : log_softmax
856 857 858 859
  backward : log_softmax_grad
  extra :
    attrs : [bool use_mkldnn = false]

860 861 862 863 864 865 866
- op : logit
  inputs :
    x : X
  outputs :
    out : Out

- op : logsigmoid
867
  backward : logsigmoid_grad
868 869 870 871
  inputs :
    x : X
  outputs :
    out : Out
872 873 874
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

875
- op : lrn
876 877 878 879
  backward : lrn_grad
  extra :
    attrs : [bool use_mkldnn = false, bool is_test = false]

880 881 882 883 884 885 886
- op : lu_unpack
  backward : lu_unpack_grad
  inputs :
    {x : X, y : Pivots}
  outputs :
    {pmat : Pmat, l : L, u : U}

887 888 889 890 891 892
- op : masked_select
  inputs :
    {x : X, mask : Mask}
  outputs :
    out : Y

893
- op : matmul (matmul_v2)
894 895 896 897
  backward : matmul_grad (matmul_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false, 'int[] fused_reshape_Out = {}', 'int[] fused_transpose_Out = {}',
             str mkldnn_data_type = "float32", 'int[] fused_reshape_X = {}', 'int[] fused_reshape_Y = {}',
898
             'int[] fused_transpose_X = {}', 'int[] fused_transpose_Y = {}']
899

900 901 902 903 904 905
- op : matmul_with_flatten (mul)
  backward : matmul_with_flatten_grad (mul_grad)
  extra :
    attrs : [bool use_mkldnn = false, float scale_x = 1.0f, 'float[] scale_y = {1.0f}',
             float scale_out = 1.0f, bool force_fp32_output = false]

906 907 908 909 910 911
- op : matrix_power
  inputs :
    x : X
  outputs :
    out : Out

912 913 914 915 916 917 918 919 920 921 922 923
- op : maximum (elementwise_max)
  backward : maximum_grad (elementwise_max_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

- op : maximum (elementwise_min)
  backward : maximum_grad (elementwise_min_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

924 925 926 927 928 929
- op : maxout
  inputs :
    x : X
  outputs :
    out : Out

930 931 932 933 934 935 936 937
- op : meshgrid
  backward : meshgrid_grad
  inputs :
    inputs : X
  outputs :
    out : Out
  drop_empty_grad : [inputs_grad]

938 939 940 941 942
- op : mish
  backward : mish_grad
  extra :
    attrs : [bool use_mkldnn = false]

943 944 945 946 947 948 949
- op : mode
  backward : mode_grad
  inputs :
    x : X
  outputs :
    {out : Out, indices : Indices}

950 951 952 953 954 955 956 957
- op : multi_dot
  backward : multi_dot_grad
  inputs :
    x : X
  outputs :
    out : Out
  drop_empty_grad : [x_grad]

958 959 960 961 962 963 964 965 966 967
- op : multinomial
  inputs :
    {x : X}
  outputs :
    out : Out
  scalar :
    num_samples :
      data_type : int
      support_tensor : true

968 969 970 971 972 973 974 975
- op : multiplex
  backward : multiplex_grad
  inputs :
    {inputs : X, index : Ids}
  outputs :
    out : Out
  drop_empty_grad : [inputs_grad]

976 977 978 979 980 981
- op : multiply (elementwise_mul)
  backward : multiply_grad (elementwise_mul_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

982
- op : mv
983 984 985 986 987
  inputs :
    {x : X, vec : Vec}
  outputs :
    out : Out

988 989 990 991 992 993
- op : nce
  backward : nce_grad
  extra :
    attrs : [int trainer_id = 0, 'int64_t[] height_sections = {}', 'str[] epmap = {}',
             'str[] table_names = {}', 'int[] custom_neg_classes = {}']

994
- op : nearest_interp (nearest_interp_v2)
995 996 997 998
  backward : nearest_interp_grad (nearest_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

999 1000 1001 1002 1003 1004 1005
- op : nll_loss
  backward : nll_loss_grad
  inputs :
    {input : X, label : Label, weight : Weight}
  outputs :
    {out : Out, total_weight : Total_weight}

1006 1007 1008 1009 1010 1011
- op : numel(size)
  inputs :
    x : Input
  outputs :
    size : Out

1012 1013 1014 1015 1016 1017 1018
- op : overlap_add
  backward : overlap_add_grad
  inputs :
    x : X
  outputs :
    out : Out

1019
- op : pad2d
1020 1021 1022 1023
  backward : pad2d_grad
  extra :
    attrs : [bool use_mkldnn = false]

1024
- op : pad3d
1025 1026 1027 1028
  backward : pad3d_grad
  extra :
    attrs : [bool use_mkldnn = false]

1029
- op : partial_sum
1030 1031 1032 1033
  backward : partial_sum_grad
  extra :
    attrs : [bool use_mkldnn = false]

1034 1035 1036 1037 1038 1039 1040
- op : pixel_shuffle
  backward : pixel_shuffle_grad
  inputs :
    x : X
  outputs :
    out : Out

1041
- op : poisson
1042 1043 1044 1045 1046
  inputs :
    x : X
  outputs :
    out : Out

1047 1048 1049 1050 1051 1052 1053 1054 1055 1056 1057
- op : pool2d
  backward : pool2d_grad
  extra :
    attrs : [bool use_mkldnn = false, bool use_quantizer = false,
              str mkldnn_data_type = "float32", bool is_test = false]

- op : pool3d
  backward : pool3d_grad
  extra :
    attrs : [bool use_mkldnn = false]

1058 1059 1060 1061 1062 1063 1064 1065 1066 1067 1068 1069 1070
- op : pow
  backward : pow_grad, pow_double_grad, pow_triple_grad
  inputs :
    x : X
  outputs :
    out : Out
  attrs :
    y : factor
  scalar :
    y :
      data_type : float
      tensor_name : FactorTensor

1071
- op : prelu
1072 1073 1074 1075
  backward : prelu_grad
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32", bool is_test = false]

1076 1077 1078 1079 1080 1081 1082 1083 1084
- op : put_along_axis
  backward : put_along_axis_grad
  inputs :
    {arr : Input, indices : Index, values : Value}
  outputs :
    out : Result
  attrs :
    {axis : Axis, reduce : Reduce}

1085 1086 1087 1088 1089 1090 1091
- op : qr
  backward : qr_grad
  inputs :
    x : X
  outputs :
    {q : Q, r : R}

1092 1093 1094 1095
- op : quantize_linear
  extra :
    attrs : [float moving_rate = 0.9]

1096 1097 1098 1099 1100 1101 1102
- op : real
  backward : real_grad
  inputs :
    x : X
  outputs :
    out : Out

1103
- op : reciprocal
1104
  backward : reciprocal_grad
1105 1106 1107 1108
  inputs :
    x : X
  outputs :
    out : Out
1109 1110 1111
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1112
- op : reduce_all
1113 1114 1115
  extra :
    attrs : [bool use_mkldnn = false]

1116
- op : reduce_amax
1117 1118 1119 1120
  backward : reduce_amax_grad
  extra :
    attrs : [bool use_mkldnn = false]

1121
- op : reduce_amin
1122 1123 1124 1125
  backward : reduce_amin_grad
  extra :
    attrs : [bool use_mkldnn = false]

1126
- op : reduce_any
1127 1128 1129
  extra :
    attrs : [bool use_mkldnn = false]

1130
- op : reduce_max
1131 1132 1133 1134
  backward : reduce_max_grad
  extra :
    attrs : [bool use_mkldnn = false]

1135
- op : reduce_mean
1136 1137 1138 1139
  backward : reduce_mean_grad
  extra :
    attrs : [bool use_mkldnn = false]

1140
- op : reduce_min
1141 1142 1143 1144
  backward : reduce_min_grad
  extra :
    attrs : [bool use_mkldnn = false]

1145
- op : reduce_prod
1146 1147 1148 1149
  backward : reduce_prod_grad
  extra :
    attrs : [bool use_mkldnn = false]

1150
- op : reduce_sum
1151 1152 1153 1154
  backward : reduce_sum_grad
  extra :
    attrs : [bool use_mkldnn = false]

1155
- op : relu
1156 1157 1158 1159 1160
  backward : relu_grad, relu_double_grad (relu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1161 1162 1163
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1164
- op : relu6
1165 1166 1167 1168
  backward : relu6_grad
  extra :
    attrs : [bool use_mkldnn = false]

1169 1170 1171 1172 1173
- op : remainder (elementwise_mod)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

1174
- op : renorm
1175
  backward : renorm_grad
1176 1177 1178 1179
  inputs :
    x : X
  outputs :
    out : Out
1180 1181 1182
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1183 1184 1185 1186 1187 1188 1189 1190 1191 1192 1193
- op : roll
  backward : roll_grad
  inputs :
    x : X
  outputs :
    out : Out
  int_array :
    shifts :
      data_type : int64_t
      tensor_name : ShiftsTensor

1194
- op : round
1195
  backward : round_grad
1196 1197 1198 1199
  inputs :
    x : X
  outputs :
    out : Out
1200
  extra :
1201 1202
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1203
- op : rsqrt
1204 1205 1206 1207 1208
  backward : rsqrt_grad, rsqrt_double_grad (rsqrt_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1209 1210
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]
1211

1212 1213 1214 1215
- op : scale
  extra :
    attrs : [bool use_mkldnn = false]

1216 1217 1218 1219 1220 1221 1222 1223 1224 1225 1226 1227 1228 1229
- op : scatter
  backward : scatter_grad
  inputs :
    {x : X, index : Ids, updates : Updates}
  outputs :
    out : Out

- op : scatter_nd_add
  backward : scatter_nd_add_grad
  inputs :
    {x : X, index : Index, updates : Updates}
  outputs :
    out : Out

1230 1231 1232 1233 1234 1235
- op : searchsorted
  inputs :
    {sorted_sequence : SortedSequence, values : Values}
  outputs :
    out : Out

1236
- op : seed
1237 1238 1239
  extra :
    attrs : [bool deterministic = false, str rng_name = "", bool force_cpu = false]

1240 1241 1242 1243 1244 1245 1246
- op : selu
  backward : selu_grad
  inputs :
    x : X
  outputs :
    out : Out

1247 1248 1249 1250 1251 1252 1253 1254 1255 1256 1257 1258 1259 1260 1261 1262 1263 1264 1265 1266 1267 1268
- op : send_u_recv(graph_send_recv)
  backward : send_u_recv_grad(graph_send_recv_grad)
  inputs :
    {x : X, src_index : Src_index, dst_index : Dst_index}
  outputs :
    {out : Out, dst_count : Dst_count}
  int_array :
    out_size:
      data_type : int64_t
      tensor_name : Out_size

- op : send_ue_recv(graph_send_ue_recv)
  backward : send_ue_recv_grad(graph_send_ue_recv_grad)
  inputs :
    {x : X, y : Y, src_index : Src_index, dst_index : Dst_index}
  outputs :
    {out : Out, dst_count : Dst_count}
  int_array :
    out_size:
      data_type : int64_t
      tensor_name : Out_size

1269 1270 1271
- op : send_uv (graph_send_uv)
  backward : send_uv_grad (graph_send_uv_grad)

1272 1273 1274 1275 1276
- op : sequence_softmax
  backward : sequence_softmax_grad
  extra :
    attrs : [str data_format = "AnyLayout"]

1277
- op : shape
1278 1279 1280
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

1281 1282 1283 1284 1285 1286
- op : shard_index
  inputs :
    input : X
  outputs :
    out : Out

1287 1288 1289 1290 1291 1292 1293
- op : share_buffer
  inputs :
    x : X
  outputs :
    out : Out
    xout : XOut

1294
- op : shuffle_channel
1295 1296 1297 1298
  backward : shuffle_channel_grad
  extra :
    attrs : [bool use_mkldnn = false]

1299
- op : sigmoid
1300 1301 1302 1303 1304
  backward : sigmoid_grad, sigmoid_double_grad (sigmoid_grad_grad), sigmoid_triple_grad
  inputs :
    x : X
  outputs :
    out : Out
1305 1306 1307
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1308
- op : silu
1309
  backward : silu_grad
1310 1311 1312 1313
  inputs :
    x : X
  outputs :
    out : Out
1314 1315 1316
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1317
- op : sin
1318
  backward : sin_grad, sin_double_grad, sin_triple_grad
1319 1320 1321 1322
  inputs :
    x : X
  outputs :
    out : Out
1323 1324 1325
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1326
- op : sinh
1327
  backward : sinh_grad
1328 1329 1330 1331
  inputs :
    x : X
  outputs :
    out : Out
1332 1333 1334
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1335
- op : slice
1336 1337 1338 1339
  backward : slice_grad
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

1340 1341 1342 1343 1344 1345 1346
- op : slogdet(slogdeterminant)
  backward : slogdet_grad(slogdeterminant_grad)
  inputs :
    x : Input
  outputs :
    out : Out

1347
- op : softmax
1348
  backward : softmax_grad
1349 1350
  inputs :
    x : X
1351
  extra :
1352
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32", bool is_test = false]
1353

1354
- op : softplus
1355
  backward : softplus_grad
1356 1357 1358 1359
  inputs :
    x : X
  outputs :
    out : Out
1360
  extra :
1361 1362 1363
    attrs : [bool use_mkldnn = false, bool use_cudnn = false, str fuse_activation_type = "", float fuse_activation_alpha = 0.0f,
             float fuse_activation_beta = 0.0f, float fuse_activation_scale = 1.0f]

1364 1365 1366 1367 1368 1369 1370 1371 1372
- op : softshrink
  backward : softshrink_grad
  inputs :
    x : X
  outputs :
    out : Out
  attrs :
    threshold : lambda

1373
- op : softsign
1374
  backward : softsign_grad
1375 1376 1377 1378
  inputs :
    x : X
  outputs :
    out : Out
1379 1380
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]
1381

1382
- op : solve
1383 1384 1385 1386 1387
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

1388
- op : sqrt
1389 1390 1391 1392 1393
  backward : sqrt_grad, sqrt_double_grad (sqrt_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1394 1395 1396
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1397
- op : square
1398 1399 1400 1401 1402
  backward : square_grad, square_double_grad (square_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1403 1404 1405
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1406
- op : squeeze (squeeze2)
1407 1408 1409 1410 1411 1412 1413 1414 1415 1416 1417
  backward : squeeze_grad (squeeze2_grad), squeeze_double_grad(squeeze2_double_grad)
  inputs :
    x : X
  attrs :
   axis : axes
  outputs :
    {out : Out, xshape : XShape}
  int_array:
    axis :
      data_type : int
      support_tensor : true
1418 1419
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]
1420
    outputs : [xshape]
1421

1422
- op : stack
1423
  backward : stack_grad
1424 1425 1426 1427
  inputs :
    x : X
  outputs :
    out : Y
1428 1429
  extra :
    attrs : [bool use_mkldnn = false]
1430
  drop_empty_grad : [x_grad]
1431

1432 1433 1434 1435 1436 1437
- op : subtract (elementwise_sub)
  backward : subtract_grad (elementwise_sub_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

1438 1439 1440 1441 1442 1443 1444
- op : svd
  backward : svd_grad
  inputs :
    x : X
  outputs :
    {u : U, s : S, vh : VH}

1445
- op : swish
1446 1447 1448 1449
  backward : swish_grad
  extra :
    attrs : [bool use_mkldnn = false]

1450
- op : sync_batch_norm
1451 1452 1453 1454
  backward : sync_batch_norm_grad
  extra :
    attrs : [bool use_mkldnn = false, bool fuse_with_relu = false]

1455 1456 1457 1458 1459 1460 1461 1462 1463
- op : take_along_axis
  backward : take_along_axis_grad
  inputs :
    {arr : Input, indices : Index}
  outputs :
    out : Result
  attrs :
    axis : Axis

1464
- op : tan
1465
  backward : tan_grad
1466 1467 1468 1469
  inputs :
    x : X
  outputs :
    out : Out
1470 1471 1472
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1473
- op : tanh
1474 1475 1476 1477 1478
  backward : tanh_grad, tanh_double_grad (tanh_grad_grad), tanh_triple_grad
  inputs :
    x : X
  outputs :
    out : Out
1479 1480 1481
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1482
- op : tanh_shrink
1483
  backward : tanh_shrink_grad
1484 1485 1486 1487
  inputs :
    x : X
  outputs :
    out : Out
1488 1489 1490
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1491 1492 1493 1494 1495 1496
- op : thresholded_relu
  inputs :
    x : X
  outputs :
    out : Out

1497 1498 1499 1500 1501 1502 1503 1504 1505 1506 1507 1508
- op : tile
  backward : tile_grad, tile_double_grad
  inputs :
    x : X
  outputs :
    out : Out
  int_array:
    repeat_times :
      data_type : int
      tensor_name : RepeatTimes
      tensors_name : repeat_times_tensor

1509 1510 1511 1512 1513 1514 1515 1516 1517 1518 1519
- op : topk (top_k_v2)
  backward : topk_grad (top_k_v2_grad)
  inputs :
    x : X
  outputs :
    {out : Out, indices : Indices}
  scalar :
    k :
      data_type : int
      tensor_name : K

1520
- op : trace
1521 1522 1523 1524
  inputs :
    x : Input
  outputs :
    out : Out
1525

1526 1527 1528 1529 1530 1531
- op : transpose (transpose2)
  backward : transpose_grad (transpose2_grad)
  extra :
    attrs : [bool use_mkldnn = false, str data_format = "AnyLayout", bool use_quantizer = false,
              str mkldnn_data_type = "float32"]

1532
- op : trilinear_interp (trilinear_interp_v2)
1533 1534 1535 1536
  backward : trilinear_interp_grad (trilinear_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

1537
- op : trunc
1538
  inputs :
1539
    input : X
1540 1541
  outputs :
    out : Out
1542

1543 1544 1545 1546 1547 1548
- op : unbind
  inputs :
    input : X
  outputs :
    out : Out

1549 1550 1551 1552 1553 1554
- op : unfold
  inputs :
    x : X
  outputs :
    out : Y

1555 1556 1557 1558 1559 1560
- op : unique_consecutive
  inputs :
    x : X
  outputs :
    {out : Out, index : Index, counts : Counts}

1561 1562 1563 1564 1565 1566 1567 1568 1569 1570 1571 1572 1573 1574 1575 1576
- op : unsqueeze (unsqueeze2)
  backward : unsqueeze_grad (unsqueeze2_grad), unsqueeze_double_grad(unsqueeze2_double_grad)
  inputs :
    x : X
  attrs :
   axis : axes
  outputs :
    {out : Out, xshape : XShape}
  int_array:
    axis :
      data_type : int
      tensor_name : AxesTensor
      tensors_name : AxesTensorList
  extra :
    outputs : [xshape]

1577 1578 1579 1580 1581 1582 1583
- op : unstack
  backward : unstack_grad
  inputs :
    x : X
  outputs :
    out : Y

1584 1585 1586 1587 1588 1589 1590 1591 1592 1593 1594 1595 1596
- op : viterbi_decode
  inputs :
    {potentials : Input, transition_params : Transition, lengths : Length}
  outputs :
    {scores : Scores, path : Path}

- op : where
  backward : where_grad
  inputs :
    {condition : Condition, x : X, y : Y}
  outputs :
    out : Out

1597 1598
- op : while
  backward : while_grad
1599
  extra :
1600
    attrs : ['str[] skip_eager_deletion_vars = {}']