op_compat.yaml 33.7 KB
Newer Older
1 2 3 4 5 6 7 8 9 10 11
# All the configuration in this file are only for existing operators,
# which cannot be modified in principle. There's no need to configure
# this file for new operator.
#
# This file is used for two purposes:
# 1. Configure the mapping relationship of parameter names of operator
#    between the operators in ops.yaml and the old operators defined
#    in fluid.
# 2. Save the extra parameters in the OpMaker of operators temporarily,
#    which will be removed in the future.

12 13 14 15 16
# - op : rnn
#   backward : rnn_grad
#   extra :
#     attrs : [bool is_test = false]

17
- op : abs
18
  backward : abs_grad
19 20 21 22
  inputs :
    x : X
  outputs :
    out : Out
23
  extra :
H
HongyuJia 已提交
24
    attrs : [bool use_mkldnn = false]
25

26 27 28 29 30 31
- op : acos
  inputs :
    x : X
  outputs :
    out : Out

32
- op : acosh
33 34 35 36
  inputs :
    x : X
  outputs :
    out : Out
37 38 39 40
  backward : acosh_grad
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

41 42 43 44 45 46
- op : add (elementwise_add)
  backward : add_grad (elementwise_add_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

47
- op : addmm
48
  backward : addmm_grad
49 50 51 52 53 54
  inputs :
    {input : Input, x : X, y : Y}
  outputs :
    out : Out
  attrs :
    {alpha : Alpha, beta : Beta}
55 56 57
  extra :
    attrs : [bool use_mkldnn = false]

58
- op : affine_grid
59 60 61 62
  backward : affine_grid_grad
  extra :
    attrs : [bool use_cudnn = true]

63 64 65 66 67 68 69 70 71 72 73 74 75
- op : allclose
  inputs :
    {x : Input, y : Other}
  outputs :
    out : Out
  scalar :
    rtol :
      data_type : std::string
      tensor_name : Rtol
    atol :
      data_type : std::string
      tensor_name : Atol

76
- op : angle
77
  backward : angle_grad
78 79 80 81
  inputs :
    x : X
  outputs :
    out : Out
82
  extra :
H
HongyuJia 已提交
83
    attrs : [bool use_mkldnn = false]
84

85 86 87 88 89 90 91
- op : argsort
  inputs :
    x : X
  outputs :
    out : Out
    indices : Indices

92 93 94 95 96 97 98 99 100 101 102 103
- op : as_complex
  inputs :
    x : X
  outputs :
    out : Out

- op : as_real
  inputs :
    x : X
  outputs :
    out : Out

104 105 106 107 108 109
- op : asin
  inputs :
    x : X
  outputs :
    out : Out

110
- op : asinh
111
  backward : asinh_grad
112 113 114 115
  inputs :
    x : X
  outputs :
    out : Out
116 117 118
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

119 120 121 122 123 124
- op : atan
  inputs :
    x : X
  outputs :
    out : Out

125
- op : atan2
126
  inputs :
127
    {x : X1, y : X2}
128 129 130
  outputs :
    out : Out

131
- op : atanh
132
  backward : atanh_grad
133 134 135 136
  inputs :
    x : X
  outputs :
    out : Out
137 138 139
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

140
- op : batch_norm
141
  backward : batch_norm_grad
142 143 144 145 146 147
  inputs:
    x : X
    mean : Mean
    variance : Variance
    scale : Scale
    bias : Bias
148 149 150
  extra :
    attrs : [bool use_mkldnn = false, bool fuse_with_relu = false]

151
- op : bernoulli
152 153 154 155 156
  inputs :
    x : X
  outputs :
    out : Out

157
- op : bicubic_interp (bicubic_interp_v2)
158 159 160 161
  backward : bicubic_interp_grad (bicubic_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

162
- op : bilinear_interp (bilinear_interp_v2)
163 164 165 166
  backward : bilinear_interp_grad (bilinear_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

167 168 169 170 171 172
- op : bmm
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

173 174 175 176 177 178 179 180
- op : broadcast_tensors
  backward : broadcast_tensors_grad
  inputs :
    input : X
  outputs :
    out : Out
  drop_empty_grad : [input_grad]

181
- op : ceil
182
  backward : ceil_grad
183 184 185 186
  inputs :
    x : X
  outputs :
    out : Out
187 188 189
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

190 191 192 193 194 195 196
- op : celu
  backward : celu_grad, celu_double_grad(celu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out

197
- op : cholesky
198 199 200 201 202
  inputs :
    x : X
  outputs :
    out : Out

203
- op : cholesky_solve
204 205 206 207 208
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

209
- op : clip
210 211 212 213 214 215 216 217 218 219 220 221
  backward : clip_grad, clip_double_grad
  inputs :
    x : X
  outputs :
    out : Out
  scalar :
    min :
      data_type : float
      tensor_name : Min
    max :
      data_type :  float
      tensor_name : Max
222 223 224
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

225 226 227 228 229 230 231
- op : complex
  backward : complex_grad
  inputs :
    {real : X, imag : Y}
  outputs :
    out : Out

232
- op : concat
233 234 235 236
  backward : concat_grad
  extra :
    attrs : [bool use_mkldnn = false, bool use_quantizer = false, str mkldnn_data_type = "float32"]

237 238 239 240 241
- op : conditional_block
  backward : conditional_block_grad
  extra :
    attrs : ['str[] skip_eager_deletion_vars = {}']

242 243 244 245 246 247
- op : conj
  inputs :
    x : X
  outputs :
    out : Out

248
- op : conv2d
249
  backward : conv2d_grad
250
  extra :
251 252
    attrs : [bool is_test = false, bool use_cudnn = true, bool use_mkldnn = false, bool use_addto = false,
             str mkldnn_data_type = "float32", bool force_fp32_output = false,
253
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
254

255
- op : conv2d_fusion
F
Feiyu Chan 已提交
256
  extra :
257
    attrs : [bool is_test = false, bool use_cudnn = false, bool fuse_relu_before_depthwise_conv = false, bool use_mkldnn = false,
F
Feiyu Chan 已提交
258
             bool use_quantizer = false, str mkldnn_data_type = "float32", bool fuse_relu = false,
259
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f, bool use_addto = false,
F
Feiyu Chan 已提交
260 261
             bool fuse_residual_connection = false, float Scale_in = 1.0f, float Scale_out = 1.0f,
             float Scale_in_eltwise = 1.0f, 'float[] Scale_weights = {1.0f}', bool force_fp32_output = false,
262
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
263

264
- op : conv2d_transpose
265 266 267 268 269
  backward : conv2d_transpose_grad
  extra :
    attrs : [bool is_test = false, bool use_cudnn = true, bool use_mkldnn = false, bool force_fp32_output = false,
             str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f,
270
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB()]
271

272
- op : conv3d
273 274 275 276 277
  backward : conv3d_grad
  extra :
    attrs : [bool is_test = false, bool use_cudnn = true, bool use_mkldnn = false, str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f,
             bool use_addto = false, bool fuse_residual_connection = false, bool force_fp32_output = false,
278
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
279

280
- op : conv3d_transpose
281 282
  backward : conv3d_transpose_grad
  extra :
283
    attrs : [bool use_cudnn = true, bool use_mkldnn = false, int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB()]
F
Feiyu Chan 已提交
284

285
- op : cos
286
  backward : cos_grad, cos_double_grad, cos_triple_grad
287 288 289 290
  inputs :
    x : X
  outputs :
    out : Out
291 292 293
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

294
- op : cosh
295
  backward : cosh_grad
296 297 298 299
  inputs :
    x : X
  outputs :
    out : Out
300 301 302
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

303 304 305 306 307 308 309 310 311 312 313 314 315 316 317 318
- op : crop (crop_tensor)
  backward : crop_grad (crop_tensor_grad)
  inputs :
    x : X
  outputs :
    out : Out
  int_array:
    shape :
      data_type : int
      tensor_name : Shape
      tensors_name : ShapeTensor
    offsets :
      data_type : int
      tensor_name : Offsets
      tensors_name : OffsetsTensor

319
- op : cross
320 321
  inputs :
    {x : X, y : Y}
322 323 324 325 326
  attrs :
    axis : dim
  outputs :
    out : Out

327
- op : data_norm
328 329 330 331
  backward : data_norm_grad
  extra :
    attrs : [bool use_mkldnn = false]

332
- op : depthwise_conv2d
333 334
  backward : depthwise_conv2d_grad
  extra :
335
    attrs : [bool is_test = false, bool fuse_relu_before_depthwise_conv = false, bool use_mkldnn = false,
336 337 338 339
             bool use_quantizer = false, str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f, bool use_addto = false,
             bool fuse_residual_connection = false, float Scale_in = 1.0f, float Scale_out = 1.0f,
             float Scale_in_eltwise = 1.0f, 'float[] Scale_weights = {1.0f}', bool force_fp32_output = false,
340
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB(), bool exhaustive_search = false]
341

342
- op : depthwise_conv2d_transpose
343 344 345 346 347
  backward : depthwise_conv2d_transpose_grad
  extra :
    attrs : [bool is_test = false, bool use_cudnn = false, bool use_mkldnn = false, bool force_fp32_output = false,
             str mkldnn_data_type = "float32", bool fuse_relu = false,
             str fuse_activation = "", float fuse_alpha = 0.0f, float fuse_beta = 0.0f,
348
             int workspace_size_MB = phi::backends::gpu::GetDefaultConvWorkspaceSizeLimitMB()]
349

350 351 352 353
- op : dequantize_linear
  extra :
    attrs : [float moving_rate = 0.9]

354 355 356 357 358 359 360
- op : det (determinant)
  backward : det_grad (determinant_grad)
  inputs :
    x : Input
  outputs :
    out : Out

361
- op : diag (diag_v2)
362
  backward : diag_grad (diag_v2_grad)
363 364 365 366 367
  inputs :
    x : X
  outputs :
    out : Out

368 369 370 371 372 373
- op : diag_embed
  inputs :
    input : Input
  outputs :
    out : Out

374
- op : diagonal
375 376 377 378 379
  inputs :
    x : Input
  outputs :
    out : Out

380
- op : digamma
381 382 383 384 385
  inputs :
    x : X
  outputs :
    out : Out

386
- op : dist
387 388 389 390 391
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

392 393 394 395
- op : distributed_push_sparse
  extra :
    attrs : ['int[] slots = {}']

396 397 398 399 400 401
- op : divide (elementwise_div)
  backward : divide_grad (elementwise_div)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

402
- op : dot
403 404 405 406 407
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

408
- op : dropout
409 410 411 412
  backward : dropout_grad
  extra :
    attrs : [bool fix_seed = false, int seed = 0]

413
- op : dropout_nd
414 415 416 417
  backward : dropout_nd_grad
  extra :
    attrs : [bool fix_seed = false, int seed = 0]

418 419 420 421 422 423 424 425 426 427 428 429 430 431 432 433 434 435 436 437
- op : eig
  inputs :
    x : X
  outputs :
    out_w : Eigenvalues
    out_v : Eigenvectors

- op : eigh
  inputs :
    x : X
  outputs :
    out_w : Eigenvalues
    out_v : Eigenvectors

- op : eigvals
  inputs :
    x : X
  outputs :
    out : Out

438 439 440 441 442 443
- op : elementwise_pow
  backward : elementwise_pow_grad
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

444
- op : elu
445 446 447 448 449
  backward : elu_grad, elu_double_grad (elu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
450 451 452
  extra :
    attrs : [bool use_mkldnn = false]

453 454 455 456 457 458 459
- op : embedding (lookup_table_v2)
  backward : embedding_grad (lookup_table_v2_grad)
  extra :
    attrs : [bool is_sparse = false, bool is_distributed = false, bool remote_prefetch = false,
             int trainer_id = 0, int slot = 0, 'int64_t[] height_sections = {}', 'str[] epmap = {}',
             'str[] table_names = {}']

460 461 462 463 464 465
- op : equal_all
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

466
- op : erf
467 468 469 470 471
  inputs :
    x : X
  outputs :
    out : Out

472
- op : erfinv
473 474 475 476 477
  inputs :
    x : X
  outputs :
    out : Out

478
- op : exp
479
  backward : exp_grad
480 481 482 483
  inputs :
    x : X
  outputs :
    out : Out
484 485
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]
486

487 488 489 490 491
- op : expand (expand_v2)
  backward : expand_grad (expand_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

492
- op : expm1
493
  backward : expm1_grad
494 495 496 497
  inputs :
    x : X
  outputs :
    out : Out
498 499 500
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

501 502 503 504 505 506 507 508 509 510 511 512 513 514 515 516 517 518 519 520 521 522 523 524 525 526 527 528
- op : fake_channel_wise_quantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_channel_wise_quantize_dequantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_dequantize_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_dequantize_moving_average_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_moving_average_abs_max
  extra :
    attrs : [int round_type = 1]

- op : fake_quantize_range_abs_max
  extra :
    attrs : [int round_type = 1]

529
- op : fft_c2c
530 531 532
  inputs: {x: X}
  outputs: {out: Out}

533
- op : fft_c2r
534 535 536
  inputs: {x: X}
  outputs: {out: Out}

537
- op : fft_r2c
538 539 540
  inputs: {x: X}
  outputs: {out: Out}

541 542 543 544 545 546 547
- op : fill_diagonal
  backward : fill_diagonal_grad
  inputs :
    x : X
  outputs :
    out : Out

548 549 550 551 552 553
- op : fill_diagonal_tensor
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

554 555 556 557 558 559
- op : flip
  inputs :
    x : X
  outputs :
    out : Out

560 561
- op : floor
  backward : floor_grad
562 563 564 565
  inputs :
    x : X
  outputs :
    out : Out
566 567 568
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

569 570 571 572 573 574 575 576 577 578 579 580 581 582 583 584 585
- op : floor_divide (elementwise_floordiv)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

- op : fmax (elementwise_fmax)
  backward : fmax_grad (elementwise_fmax_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

- op : fmin (elementwise_fmin)
  backward : fmin_grad (elementwise_fmin_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

586 587 588 589 590 591
- op : fold
  inputs :
    x : X
  outputs :
    out : Y

592 593 594 595 596 597 598
- op : frame
  backward : frame_grad
  inputs :
    x : X
  outputs :
    out : Out

599
- op : frobenius_norm
600 601 602 603
  backward : frobenius_norm_grad
  extra :
    attrs : [bool use_mkldnn = false]

604 605 606 607
- op : full (fill_constant)
  extra :
    attrs : [bool use_mkldnn = false]

608 609 610 611 612
- op : fused_conv2d
  extra :
    attrs : [bool use_cudnn = false, float fuse_alpha = 0.0f, float fuse_beta = 0.0f, float Scale_in = 1.0f,
             float Scale_out = 1.0f, float Scale_in_eltwise = 1.0f, 'float[] Scale_weights = {1.0f}']

613 614 615 616 617
- op : gather
  backward : gather_grad
  extra :
    attrs : [bool overwrite = true]

618 619 620 621 622 623 624
- op : gather_nd
  backward : gather_nd_grad
  inputs :
    {x : X, index : Index}
  outputs :
    out : Out

625 626 627 628 629 630
- op : gather_tree
  inputs :
    {ids : Ids, parents : Parents}
  outputs :
    out : Out

631
- op : gelu
632
  backward : gelu_grad
633 634 635 636
  inputs :
    x : X
  outputs :
    out : Out
637
  extra :
H
HongyuJia 已提交
638
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]
639

640 641 642 643 644
- op : grad_add
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

645 646 647 648 649 650
- op : grid_sample(grid_sampler)
  backward : grid_sample_grad (grid_sampler_grad)
  inputs :
    {x : X, grid : Grid}
  outputs :
    out : Output
651 652 653
  extra :
    attrs : [bool use_cudnn = true]

654
- op : gru
655 656 657 658
  backward : gru_grad
  extra :
    attrs : [bool is_test = false]

659 660 661 662 663 664
- op : gumbel_softmax
  inputs :
    x : X
  outputs :
    out : Out

665 666 667 668 669
- op : hard_swish
  backward : hard_swish_grad
  extra :
    attrs : [bool use_mkldnn = false]

670 671 672 673 674 675 676 677 678 679 680 681 682 683
- op : hardshrink (hard_shrink)
  backward : hardshrink_grad (hard_shrink_grad)
  inputs :
    x : X
  outputs :
    out : Out

- op : hardsigmoid (hard_sigmoid)
  backward : hardsigmoid_grad (hard_sigmoid_grad)
  inputs :
    x : X
  outputs :
    out : Out

684 685 686 687 688 689 690
- op : hardtanh (brelu)
  backward : hardtanh_grad (brelu_grad)
  inputs :
    x : X
  outputs :
    out : Out

691 692 693 694 695 696
- op : heaviside (elementwise_heaviside)
  backward : heaviside_grad (elementwise_heaviside_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

697 698 699 700 701 702
- op : histogram
  inputs :
    input : X
  outputs :
    out : Out

703 704 705 706 707 708 709
- op : imag
  backward : imag_grad
  inputs :
    x : X
  outputs :
    out : Out

710 711 712 713 714 715 716 717 718 719 720 721 722 723
- op : index_sample
  inputs :
    {x : X, index : Index}
  outputs :
    out : Out

- op : index_select
  inputs :
    {x : X, index : Index}
  outputs :
    out : Out
  attrs :
    axis : dim

724
- op : inplace_abn
725 726 727 728
  backward : inplace_abn_grad
  extra :
    attrs : [bool use_mkldnn = false, bool fuse_with_relu = false]

729 730 731 732 733 734
- op : inverse
  inputs :
    x : Input
  outputs :
    out : Output

735 736 737 738 739 740
- op : is_empty
  inputs :
    x : X
  outputs :
    out : Out

741 742 743 744 745 746 747 748 749 750 751 752 753
- op : isclose
  inputs :
    {x : Input, y : Other}
  outputs :
    out : Out
  scalar :
    rtol :
      data_type : std::string
      tensor_name : Rtol
    atol :
      data_type : std::string
      tensor_name : Atol

754 755 756 757 758 759 760 761 762 763 764 765 766 767 768 769 770 771 772 773 774 775 776 777 778 779 780 781 782 783
- op : isfinite (isfinite_v2)
  inputs :
    x : X
  outputs :
    out : Out

- op : isinf (isinf_v2)
  inputs :
    x : X
  outputs :
    out : Out

- op : isnan (isnan_v2)
  inputs :
    x : X
  outputs :
    out : Out

- op : kthvalue
  inputs :
    x : X
  outputs :
    {out : Out, indices : Indices}

- op : label_smooth
  inputs :
    {label : X, prior_dist : PriorDist}
  outputs :
    out : Out

784
- op : layer_norm
785 786 787 788
  backward : layer_norm_grad
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32", bool is_test = false]

789
- op : leaky_relu
790 791 792 793 794 795 796
  backward : leaky_relu_grad, leaky_relu_double_grad (leaky_relu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
  attrs:
    negative_slope : alpha
797 798 799
  extra :
    attrs : [bool use_mkldnn = false]

800 801 802 803 804 805 806
- op : lerp
  backward : lerp_grad
  inputs :
    {x : X, y : Y, weight : Weight}
  outputs :
    out : Out

807
- op : lgamma
808 809 810 811 812
  inputs :
    x : X
  outputs :
    out : Out

813
- op : linear_interp (linear_interp_v2)
814 815 816 817
  backward : linear_interp_grad (linear_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

818
- op : log
819 820 821 822 823
  backward : log_grad, log_double_grad (log_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
824 825 826
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

827
- op : log10
828
  backward : log10_grad
829 830 831 832
  inputs :
    x : X
  outputs :
    out : Out
833 834 835
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

836
- op : log1p
837
  backward : log1p_grad
838 839 840 841
  inputs :
    x : X
  outputs :
    out : Out
842 843 844
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

845
- op : log2
846
  backward : log2_grad
847 848 849 850
  inputs :
    x : X
  outputs :
    out : Out
851 852 853
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

854 855 856 857 858 859 860
- op : log_loss
  backward : log_loss_grad
  inputs :
    {input : Predicted, label : Labels}
  outputs :
    out : Loss

861
- op : log_softmax
862 863 864 865
  backward : log_softmax_grad
  extra :
    attrs : [bool use_mkldnn = false]

866 867 868 869 870 871 872
- op : logit
  inputs :
    x : X
  outputs :
    out : Out

- op : logsigmoid
873
  backward : logsigmoid_grad
874 875 876 877
  inputs :
    x : X
  outputs :
    out : Out
878 879 880
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

881
- op : lrn
882 883 884 885
  backward : lrn_grad
  extra :
    attrs : [bool use_mkldnn = false, bool is_test = false]

886 887 888 889 890 891 892
- op : lu_unpack
  backward : lu_unpack_grad
  inputs :
    {x : X, y : Pivots}
  outputs :
    {pmat : Pmat, l : L, u : U}

893 894 895 896 897 898
- op : masked_select
  inputs :
    {x : X, mask : Mask}
  outputs :
    out : Y

899
- op : matmul (matmul_v2)
900 901 902 903
  backward : matmul_grad (matmul_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false, 'int[] fused_reshape_Out = {}', 'int[] fused_transpose_Out = {}',
             str mkldnn_data_type = "float32", 'int[] fused_reshape_X = {}', 'int[] fused_reshape_Y = {}',
904
             'int[] fused_transpose_X = {}', 'int[] fused_transpose_Y = {}']
905

906 907 908 909 910 911
- op : matmul_with_flatten (mul)
  backward : matmul_with_flatten_grad (mul_grad)
  extra :
    attrs : [bool use_mkldnn = false, float scale_x = 1.0f, 'float[] scale_y = {1.0f}',
             float scale_out = 1.0f, bool force_fp32_output = false]

912 913 914 915 916 917
- op : matrix_power
  inputs :
    x : X
  outputs :
    out : Out

918 919 920 921 922 923 924 925 926 927 928 929
- op : maximum (elementwise_max)
  backward : maximum_grad (elementwise_max_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

- op : maximum (elementwise_min)
  backward : maximum_grad (elementwise_min_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

930 931 932 933 934 935
- op : maxout
  inputs :
    x : X
  outputs :
    out : Out

936 937 938 939 940 941 942 943
- op : meshgrid
  backward : meshgrid_grad
  inputs :
    inputs : X
  outputs :
    out : Out
  drop_empty_grad : [inputs_grad]

944 945 946 947 948
- op : mish
  backward : mish_grad
  extra :
    attrs : [bool use_mkldnn = false]

949 950 951 952 953 954 955
- op : mode
  backward : mode_grad
  inputs :
    x : X
  outputs :
    {out : Out, indices : Indices}

956 957 958 959 960 961 962 963
- op : multi_dot
  backward : multi_dot_grad
  inputs :
    x : X
  outputs :
    out : Out
  drop_empty_grad : [x_grad]

964 965 966 967 968 969 970 971 972 973
- op : multinomial
  inputs :
    {x : X}
  outputs :
    out : Out
  scalar :
    num_samples :
      data_type : int
      support_tensor : true

974 975 976 977 978 979 980 981
- op : multiplex
  backward : multiplex_grad
  inputs :
    {inputs : X, index : Ids}
  outputs :
    out : Out
  drop_empty_grad : [inputs_grad]

982 983 984 985 986 987
- op : multiply (elementwise_mul)
  backward : multiply_grad (elementwise_mul_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

988
- op : mv
989 990 991 992 993
  inputs :
    {x : X, vec : Vec}
  outputs :
    out : Out

994 995 996 997 998 999
- op : nce
  backward : nce_grad
  extra :
    attrs : [int trainer_id = 0, 'int64_t[] height_sections = {}', 'str[] epmap = {}',
             'str[] table_names = {}', 'int[] custom_neg_classes = {}']

1000
- op : nearest_interp (nearest_interp_v2)
1001 1002 1003 1004
  backward : nearest_interp_grad (nearest_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

1005 1006 1007 1008 1009 1010 1011
- op : nll_loss
  backward : nll_loss_grad
  inputs :
    {input : X, label : Label, weight : Weight}
  outputs :
    {out : Out, total_weight : Total_weight}

1012 1013 1014 1015 1016 1017
- op : numel(size)
  inputs :
    x : Input
  outputs :
    size : Out

1018 1019 1020 1021 1022 1023 1024
- op : overlap_add
  backward : overlap_add_grad
  inputs :
    x : X
  outputs :
    out : Out

1025
- op : pad2d
1026 1027 1028 1029
  backward : pad2d_grad
  extra :
    attrs : [bool use_mkldnn = false]

1030
- op : pad3d
1031 1032 1033 1034
  backward : pad3d_grad
  extra :
    attrs : [bool use_mkldnn = false]

1035
- op : partial_sum
1036 1037 1038 1039
  backward : partial_sum_grad
  extra :
    attrs : [bool use_mkldnn = false]

1040 1041 1042 1043 1044 1045 1046
- op : pixel_shuffle
  backward : pixel_shuffle_grad
  inputs :
    x : X
  outputs :
    out : Out

1047
- op : poisson
1048 1049 1050 1051 1052
  inputs :
    x : X
  outputs :
    out : Out

1053 1054 1055 1056 1057 1058 1059 1060 1061 1062 1063
- op : pool2d
  backward : pool2d_grad
  extra :
    attrs : [bool use_mkldnn = false, bool use_quantizer = false,
              str mkldnn_data_type = "float32", bool is_test = false]

- op : pool3d
  backward : pool3d_grad
  extra :
    attrs : [bool use_mkldnn = false]

1064 1065 1066 1067 1068 1069 1070 1071 1072 1073 1074 1075 1076
- op : pow
  backward : pow_grad, pow_double_grad, pow_triple_grad
  inputs :
    x : X
  outputs :
    out : Out
  attrs :
    y : factor
  scalar :
    y :
      data_type : float
      tensor_name : FactorTensor

1077
- op : prelu
1078 1079 1080 1081
  backward : prelu_grad
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32", bool is_test = false]

1082 1083 1084 1085 1086 1087 1088 1089 1090
- op : put_along_axis
  backward : put_along_axis_grad
  inputs :
    {arr : Input, indices : Index, values : Value}
  outputs :
    out : Result
  attrs :
    {axis : Axis, reduce : Reduce}

1091 1092 1093 1094 1095 1096 1097
- op : qr
  backward : qr_grad
  inputs :
    x : X
  outputs :
    {q : Q, r : R}

1098 1099 1100 1101
- op : quantize_linear
  extra :
    attrs : [float moving_rate = 0.9]

1102 1103 1104 1105 1106 1107 1108
- op : real
  backward : real_grad
  inputs :
    x : X
  outputs :
    out : Out

1109
- op : reciprocal
1110
  backward : reciprocal_grad
1111 1112 1113 1114
  inputs :
    x : X
  outputs :
    out : Out
1115 1116 1117
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1118
- op : reduce_all
1119 1120 1121
  extra :
    attrs : [bool use_mkldnn = false]

1122
- op : reduce_amax
1123 1124 1125 1126
  backward : reduce_amax_grad
  extra :
    attrs : [bool use_mkldnn = false]

1127
- op : reduce_amin
1128 1129 1130 1131
  backward : reduce_amin_grad
  extra :
    attrs : [bool use_mkldnn = false]

1132
- op : reduce_any
1133 1134 1135
  extra :
    attrs : [bool use_mkldnn = false]

1136
- op : reduce_max
1137 1138 1139 1140
  backward : reduce_max_grad
  extra :
    attrs : [bool use_mkldnn = false]

1141
- op : reduce_mean
1142 1143 1144 1145
  backward : reduce_mean_grad
  extra :
    attrs : [bool use_mkldnn = false]

1146
- op : reduce_min
1147 1148 1149 1150
  backward : reduce_min_grad
  extra :
    attrs : [bool use_mkldnn = false]

1151
- op : reduce_prod
1152 1153 1154 1155
  backward : reduce_prod_grad
  extra :
    attrs : [bool use_mkldnn = false]

1156
- op : reduce_sum
1157 1158 1159 1160
  backward : reduce_sum_grad
  extra :
    attrs : [bool use_mkldnn = false]

1161
- op : relu
1162 1163 1164 1165 1166
  backward : relu_grad, relu_double_grad (relu_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1167 1168 1169
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1170
- op : relu6
1171 1172 1173 1174
  backward : relu6_grad
  extra :
    attrs : [bool use_mkldnn = false]

1175 1176 1177 1178 1179
- op : remainder (elementwise_mod)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

1180
- op : renorm
1181
  backward : renorm_grad
1182 1183 1184 1185
  inputs :
    x : X
  outputs :
    out : Out
1186 1187 1188
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1189 1190 1191 1192 1193 1194 1195 1196 1197 1198 1199
- op : roll
  backward : roll_grad
  inputs :
    x : X
  outputs :
    out : Out
  int_array :
    shifts :
      data_type : int64_t
      tensor_name : ShiftsTensor

1200
- op : round
1201
  backward : round_grad
1202 1203 1204 1205
  inputs :
    x : X
  outputs :
    out : Out
1206
  extra :
1207 1208
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1209
- op : rsqrt
1210 1211 1212 1213 1214
  backward : rsqrt_grad, rsqrt_double_grad (rsqrt_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1215 1216
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]
1217

1218 1219 1220 1221
- op : scale
  extra :
    attrs : [bool use_mkldnn = false]

1222 1223 1224 1225 1226 1227 1228 1229 1230 1231 1232 1233 1234 1235
- op : scatter
  backward : scatter_grad
  inputs :
    {x : X, index : Ids, updates : Updates}
  outputs :
    out : Out

- op : scatter_nd_add
  backward : scatter_nd_add_grad
  inputs :
    {x : X, index : Index, updates : Updates}
  outputs :
    out : Out

1236 1237 1238 1239 1240 1241
- op : searchsorted
  inputs :
    {sorted_sequence : SortedSequence, values : Values}
  outputs :
    out : Out

1242
- op : seed
1243 1244 1245
  extra :
    attrs : [bool deterministic = false, str rng_name = "", bool force_cpu = false]

1246 1247 1248 1249 1250 1251 1252
- op : selu
  backward : selu_grad
  inputs :
    x : X
  outputs :
    out : Out

1253 1254 1255 1256 1257 1258 1259 1260 1261 1262 1263 1264 1265 1266 1267 1268 1269 1270 1271 1272 1273 1274
- op : send_u_recv(graph_send_recv)
  backward : send_u_recv_grad(graph_send_recv_grad)
  inputs :
    {x : X, src_index : Src_index, dst_index : Dst_index}
  outputs :
    {out : Out, dst_count : Dst_count}
  int_array :
    out_size:
      data_type : int64_t
      tensor_name : Out_size

- op : send_ue_recv(graph_send_ue_recv)
  backward : send_ue_recv_grad(graph_send_ue_recv_grad)
  inputs :
    {x : X, y : Y, src_index : Src_index, dst_index : Dst_index}
  outputs :
    {out : Out, dst_count : Dst_count}
  int_array :
    out_size:
      data_type : int64_t
      tensor_name : Out_size

1275 1276 1277
- op : send_uv (graph_send_uv)
  backward : send_uv_grad (graph_send_uv_grad)

1278 1279 1280 1281 1282
- op : sequence_softmax
  backward : sequence_softmax_grad
  extra :
    attrs : [str data_format = "AnyLayout"]

1283
- op : shape
1284 1285 1286
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

1287 1288 1289 1290 1291 1292
- op : shard_index
  inputs :
    input : X
  outputs :
    out : Out

1293 1294 1295 1296 1297 1298 1299
- op : share_buffer
  inputs :
    x : X
  outputs :
    out : Out
    xout : XOut

1300
- op : shuffle_channel
1301 1302 1303 1304
  backward : shuffle_channel_grad
  extra :
    attrs : [bool use_mkldnn = false]

1305
- op : sigmoid
1306 1307 1308 1309 1310
  backward : sigmoid_grad, sigmoid_double_grad (sigmoid_grad_grad), sigmoid_triple_grad
  inputs :
    x : X
  outputs :
    out : Out
1311 1312 1313
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1314
- op : silu
1315
  backward : silu_grad
1316 1317 1318 1319
  inputs :
    x : X
  outputs :
    out : Out
1320 1321 1322
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1323
- op : sin
1324
  backward : sin_grad, sin_double_grad, sin_triple_grad
1325 1326 1327 1328
  inputs :
    x : X
  outputs :
    out : Out
1329 1330 1331
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1332
- op : sinh
1333
  backward : sinh_grad
1334 1335 1336 1337
  inputs :
    x : X
  outputs :
    out : Out
1338 1339 1340
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1341
- op : slice
1342 1343 1344 1345
  backward : slice_grad
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]

1346 1347 1348 1349 1350 1351 1352
- op : slogdet(slogdeterminant)
  backward : slogdet_grad(slogdeterminant_grad)
  inputs :
    x : Input
  outputs :
    out : Out

1353
- op : softmax
1354
  backward : softmax_grad
1355 1356
  inputs :
    x : X
1357
  extra :
1358
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32", bool is_test = false]
1359

1360
- op : softplus
1361
  backward : softplus_grad
1362 1363 1364 1365
  inputs :
    x : X
  outputs :
    out : Out
1366
  extra :
1367 1368 1369
    attrs : [bool use_mkldnn = false, bool use_cudnn = false, str fuse_activation_type = "", float fuse_activation_alpha = 0.0f,
             float fuse_activation_beta = 0.0f, float fuse_activation_scale = 1.0f]

1370 1371 1372 1373 1374 1375 1376 1377 1378
- op : softshrink
  backward : softshrink_grad
  inputs :
    x : X
  outputs :
    out : Out
  attrs :
    threshold : lambda

1379
- op : softsign
1380
  backward : softsign_grad
1381 1382 1383 1384
  inputs :
    x : X
  outputs :
    out : Out
1385 1386
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]
1387

1388
- op : solve
1389 1390 1391 1392 1393
  inputs :
    {x : X, y : Y}
  outputs :
    out : Out

1394
- op : sqrt
1395 1396 1397 1398 1399
  backward : sqrt_grad, sqrt_double_grad (sqrt_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1400 1401 1402
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1403
- op : square
1404 1405 1406 1407 1408
  backward : square_grad, square_double_grad (square_grad_grad)
  inputs :
    x : X
  outputs :
    out : Out
1409 1410 1411
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1412
- op : squeeze (squeeze2)
1413 1414 1415 1416 1417 1418 1419 1420 1421 1422 1423
  backward : squeeze_grad (squeeze2_grad), squeeze_double_grad(squeeze2_double_grad)
  inputs :
    x : X
  attrs :
   axis : axes
  outputs :
    {out : Out, xshape : XShape}
  int_array:
    axis :
      data_type : int
      support_tensor : true
1424 1425
  extra :
    attrs : [bool use_mkldnn = false, str mkldnn_data_type = "float32"]
1426
    outputs : [xshape]
1427

1428
- op : stack
1429
  backward : stack_grad
1430 1431 1432 1433
  inputs :
    x : X
  outputs :
    out : Y
1434 1435
  extra :
    attrs : [bool use_mkldnn = false]
1436
  drop_empty_grad : [x_grad]
1437

1438 1439 1440 1441 1442 1443
- op : subtract (elementwise_sub)
  backward : subtract_grad (elementwise_sub_grad)
  extra :
    attrs : [bool use_mkldnn = false, str x_data_format = "", str y_data_format = "", str mkldnn_data_type = "float32",
             bool use_quantizer = false, float Scale_x = 1.0f, float Scale_y = 1.0f, float Scale_out = 1.0f]

1444 1445 1446 1447 1448 1449 1450
- op : svd
  backward : svd_grad
  inputs :
    x : X
  outputs :
    {u : U, s : S, vh : VH}

1451
- op : swish
1452 1453 1454 1455
  backward : swish_grad
  extra :
    attrs : [bool use_mkldnn = false]

1456
- op : sync_batch_norm
1457 1458 1459 1460
  backward : sync_batch_norm_grad
  extra :
    attrs : [bool use_mkldnn = false, bool fuse_with_relu = false]

1461 1462 1463 1464 1465 1466 1467 1468 1469
- op : take_along_axis
  backward : take_along_axis_grad
  inputs :
    {arr : Input, indices : Index}
  outputs :
    out : Result
  attrs :
    axis : Axis

1470
- op : tan
1471
  backward : tan_grad
1472 1473 1474 1475
  inputs :
    x : X
  outputs :
    out : Out
1476 1477 1478
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1479
- op : tanh
1480 1481 1482 1483 1484
  backward : tanh_grad, tanh_double_grad (tanh_grad_grad), tanh_triple_grad
  inputs :
    x : X
  outputs :
    out : Out
1485 1486 1487
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1488
- op : tanh_shrink
1489
  backward : tanh_shrink_grad
1490 1491 1492 1493
  inputs :
    x : X
  outputs :
    out : Out
1494 1495 1496
  extra :
    attrs : [bool use_mkldnn = false, bool use_cudnn = false]

1497 1498 1499 1500 1501 1502
- op : thresholded_relu
  inputs :
    x : X
  outputs :
    out : Out

1503 1504 1505 1506 1507 1508 1509 1510 1511 1512 1513 1514
- op : tile
  backward : tile_grad, tile_double_grad
  inputs :
    x : X
  outputs :
    out : Out
  int_array:
    repeat_times :
      data_type : int
      tensor_name : RepeatTimes
      tensors_name : repeat_times_tensor

1515 1516 1517 1518 1519 1520 1521 1522 1523 1524 1525
- op : topk (top_k_v2)
  backward : topk_grad (top_k_v2_grad)
  inputs :
    x : X
  outputs :
    {out : Out, indices : Indices}
  scalar :
    k :
      data_type : int
      tensor_name : K

1526
- op : trace
1527 1528 1529 1530
  inputs :
    x : Input
  outputs :
    out : Out
1531

1532 1533 1534 1535 1536 1537
- op : transpose (transpose2)
  backward : transpose_grad (transpose2_grad)
  extra :
    attrs : [bool use_mkldnn = false, str data_format = "AnyLayout", bool use_quantizer = false,
              str mkldnn_data_type = "float32"]

1538
- op : trilinear_interp (trilinear_interp_v2)
1539 1540 1541 1542
  backward : trilinear_interp_grad (trilinear_interp_v2_grad)
  extra :
    attrs : [bool use_mkldnn = false]

1543
- op : trunc
1544
  inputs :
1545
    input : X
1546 1547
  outputs :
    out : Out
1548

1549 1550 1551 1552 1553 1554
- op : unbind
  inputs :
    input : X
  outputs :
    out : Out

1555 1556 1557 1558 1559 1560
- op : unfold
  inputs :
    x : X
  outputs :
    out : Y

1561 1562 1563 1564 1565 1566
- op : unique_consecutive
  inputs :
    x : X
  outputs :
    {out : Out, index : Index, counts : Counts}

1567 1568 1569 1570 1571 1572 1573 1574 1575 1576 1577 1578 1579 1580 1581 1582
- op : unsqueeze (unsqueeze2)
  backward : unsqueeze_grad (unsqueeze2_grad), unsqueeze_double_grad(unsqueeze2_double_grad)
  inputs :
    x : X
  attrs :
   axis : axes
  outputs :
    {out : Out, xshape : XShape}
  int_array:
    axis :
      data_type : int
      tensor_name : AxesTensor
      tensors_name : AxesTensorList
  extra :
    outputs : [xshape]

1583 1584 1585 1586 1587 1588 1589
- op : unstack
  backward : unstack_grad
  inputs :
    x : X
  outputs :
    out : Y

1590 1591 1592 1593 1594 1595 1596 1597 1598 1599 1600 1601 1602
- op : viterbi_decode
  inputs :
    {potentials : Input, transition_params : Transition, lengths : Length}
  outputs :
    {scores : Scores, path : Path}

- op : where
  backward : where_grad
  inputs :
    {condition : Condition, x : X, y : Y}
  outputs :
    out : Out

1603 1604
- op : while
  backward : while_grad
1605
  extra :
1606
    attrs : ['str[] skip_eager_deletion_vars = {}']