diff --git a/new/pt-tut-17/11.md b/new/pt-tut-17/11.md index 36809f7f8d1a9744c2aae372ec8121672db8362e..c29b24e83439ec1399149f1524dbe93895f8ad4c 100644 --- a/new/pt-tut-17/11.md +++ b/new/pt-tut-17/11.md @@ -2,7 +2,7 @@ > 原文： -经过训练的三阶多项式，可以通过最小化平方的欧几里得距离来预测`y = sin(x)`从`-pi`到`pi`。 而不是将多项式写为\（y = a + bx + cx ^ 2 + dx ^ 3 \），我们将多项式写为\（y = a + b P_3（c + dx）\）其中\（P_3（x ）= rac {1} {2} \ left（5x ^ 3-3x ight）\）是三次的[勒让德多项式](https://en.wikipedia.org/wiki/Legendre_polynomials)。 +经过训练的三阶多项式，可以通过最小化平方的欧几里得距离来预测`y = sin(x)`从`-pi`到`pi`。 而不是将多项式写为`y = a + bx + cx ^ 2 + dx ^ 3`，我们将多项式写为\（y = a + b P_3（c + dx）\）其中\（P_3（x ）= rac {1} {2} \ left（5x ^ 3-3x ight）\）是三次的[勒让德多项式](https://en.wikipedia.org/wiki/Legendre_polynomials)。 此实现使用 PyTorch 张量上的运算来计算正向传播，并使用 PyTorch autograd 来计算梯度。 diff --git a/new/pt-tut-17/21.md b/new/pt-tut-17/21.md index b0167a5d11c1e4a9c9aa5f4db4aaaec1e7e09638..2dd64dcebe2c1cdf038ee03f04f716c5d83f0cfd 100644 --- a/new/pt-tut-17/21.md +++ b/new/pt-tut-17/21.md @@ -22,7 +22,7 @@ ![fgsm_panda_image](img/d74012096c3134b776b5e9f70e8178f3.png) -从图中，\（\ mathbf {x} \）是正确分类为“熊猫”的原始输入图像，`y`是\（\ mathbf {x} \），\（\ mathbf {\ theta} \）表示模型参数，而\（J（\ mathbf {\ theta}，\ mathbf {x}，y）\）是用于训练网络的损耗。 攻击会将梯度反向传播回输入数据，以计算\（\ nabla_ {x} J（\ mathbf {\ theta}，\ mathbf {x}，y）\）。 然后，它会沿方向（即\（sign（\ nabla_ {x} J（\ mathbf {\ theta}}）沿一小步（图片中的\（\ epsilon \）或\（0.007 \））调整输入数据 ，\ mathbf {x}，y））\））），这将使损失最大化。 然后，当目标图像仍明显是“熊猫”时，目标网络将它们误分类为“长臂猿”。 +从图中，`x`是正确分类为“熊猫”的原始输入图像，`y`是`x`的输出，`θ`表示模型参数，而\（J（\ mathbf {\ theta}，\ mathbf {x}，y）\）是用于训练网络的损耗。 攻击会将梯度反向传播回输入数据，以计算\（\ nabla_ {x} J（\ mathbf {\ theta}，\ mathbf {x}，y）\）。 然后，它会沿方向（即\（sign（\ nabla_ {x} J（\ mathbf {\ theta}}）沿一小步（图片中的\（\ epsilon \）或\（0.007 \））调整输入数据 ，\ mathbf {x}，y））\））），这将使损失最大化。 然后，当目标图像仍明显是“熊猫”时，目标网络将它们误分类为“长臂猿”。 希望本教程的动机已经明确，所以让我们跳入实施过程。 @@ -46,7 +46,7 @@ import matplotlib.pyplot as plt 本教程只有三个输入，定义如下： -* `epsilons`-用于运行的 epsilon 值列表。 在列表中保留 0 很重要，因为它表示原始测试集上的模型性能。 同样，从直觉上讲，我们期望ε越大，扰动越明显，但是从降低模型准确率的角度来看，攻击越有效。 由于此处的数据范围为\（[0,1] \），因此 epsilon 值不得超过 1。 +* `epsilons`-用于运行的`ε`值列表。 在列表中保留 0 很重要，因为它表示原始测试集上的模型性能。 同样，从直觉上讲，我们期望`ε`越大，扰动越明显，但是从降低模型准确率的角度来看，攻击越有效。 由于此处的数据范围为\（[0,1] \），因此`ε`值不得超过 1。 * `pretrained_model`-到使用 [pytorch / examples / mnist](https://github.com/pytorch/examples/tree/master/mnist) 训练的 MNIST 模型的路径。 为简单起见，请在此处下载预训练模型[。](https://drive.google.com/drive/folders/1fn83DF14tWmit0RTKWRhPq5uVXt73e0h?usp=sharing) * `use_cuda`-布尔标志，如果需要和可用，则使用 CUDA。 请注意，具有 CUDA 的 GPU 在本教程中并不重要，因为 CPU 不会花费很多时间。 @@ -144,7 +144,7 @@ def fgsm_attack(image, epsilon, data_grad): ### 测试功能 -最后，本教程的主要结果来自`test`函数。 每次调用此测试功能都会在 MNIST 测试集上执行完整的测试步骤，并报告最终精度。 但是，请注意，此功能还需要`epsilon`输入。 这是因为`test`函数报告实力为\（\ epsilon \）的来自对手的攻击模型的准确率。 更具体地说，对于测试集中的每个样本，函数都会计算输入数据（\（data \ _grad \））的损耗梯度，并使用`fgsm_attack`创建一个扰动图像（\（perturbed \ _data \）） ，然后检查受干扰的示例是否具有对抗性。 除了测试模型的准确率外，该功能还保存并返回了一些成功的对抗示例，以供以后可视化。 +最后，本教程的主要结果来自`test`函数。 每次调用此测试功能都会在 MNIST 测试集上执行完整的测试步骤，并报告最终精度。 但是，请注意，此功能还需要`epsilon`输入。 这是因为`test`函数报告实力为`ε`的来自对手的攻击模型的准确率。 更具体地说，对于测试集中的每个样本，函数都会计算输入数据（\（data \ _grad \））的损耗梯度，并使用`fgsm_attack`创建一个扰动图像（\（perturbed \ _data \）） ，然后检查受干扰的示例是否具有对抗性。 除了测试模型的准确率外，该功能还保存并返回了一些成功的对抗示例，以供以后可视化。 ```py def test( model, device, test_loader, epsilon ): @@ -213,7 +213,7 @@ def test( model, device, test_loader, epsilon ): ### 运行攻击 -实现的最后一部分是实际运行攻击。 在这里，我们为`epsilon`输入中的每个 epsilon 值运行完整的测试步骤。 对于每个 epsilon，我们还保存最终精度，并在接下来的部分中绘制一些成功的对抗示例。 请注意，随着ε值的增加，打印的精度如何降低。 另外，请注意\（\ epsilon = 0 \）表示原始测试准确率，没有受到攻击。 +实现的最后一部分是实际运行攻击。 在这里，我们为`epsilon`输入中的每个 epsilon 值运行完整的测试步骤。 对于每个 epsilon，我们还保存最终精度，并在接下来的部分中绘制一些成功的对抗示例。 请注意，随着ε值的增加，打印的精度如何降低。 另外，请注意`ε = 0`表示原始测试准确率，没有受到攻击。 ```py accuracies = [] @@ -244,7 +244,7 @@ Epsilon: 0.3 Test Accuracy = 869 / 10000 = 0.0869 ### 准确率与 Epsilon -第一个结果是精度与ε曲线的关系。 如前所述，随着ε的增加，我们预计测试精度会降低。 这是因为更大的ε意味着我们朝着将损失最大化的方向迈出了更大的一步。 请注意，即使 epsilon 值是线性间隔的，曲线中的趋势也不是线性的。 例如，`ε = 0.05`处的精度仅比\（\ epsilon = 0 \）低约 4%，但`ε = 0.2`处的精度比`ε = 0.15`。 另外，请注意，模型的准确率在`ε = 0.25`和`ε = 0.3`之间达到 10 类分类器的随机准确率。 +第一个结果是精度与ε曲线的关系。 如前所述，随着ε的增加，我们预计测试精度会降低。 这是因为更大的ε意味着我们朝着将损失最大化的方向迈出了更大的一步。 请注意，即使 epsilon 值是线性间隔的，曲线中的趋势也不是线性的。 例如，`ε = 0.05`处的精度仅比`ε = 0`低约 4%，但`ε = 0.2`处的精度比`ε = 0.15`。 另外，请注意，模型的准确率在`ε = 0.25`和`ε = 0.3`之间达到 10 类分类器的随机准确率。 ```py plt.figure(figsize=(5,5)) @@ -262,7 +262,7 @@ plt.show() ### 对抗示例样本 -还记得没有免费午餐的想法吗？ 在这种情况下，随着ε的增加，测试精度降低，但扰动变得更容易察觉。 实际上，在攻击者必须考虑的准确率下降和可感知性之间要进行权衡。 在这里，我们展示了每个 epsilon 值下成功对抗示例的一些示例。 绘图的每一行显示不同的ε值。 第一行是\（\ epsilon = 0 \）示例，这些示例表示没有干扰的原始“干净”图像。 每张图片的标题均显示“原始分类->对抗分类”。 注意，扰动在`ε = 0.15`处开始变得明显，而在`ε = 0.3`处则非常明显。 但是，在所有情况下，尽管增加了噪音，人类仍然能够识别正确的类别。 +还记得没有免费午餐的想法吗？ 在这种情况下，随着ε的增加，测试精度降低，但扰动变得更容易察觉。 实际上，在攻击者必须考虑的准确率下降和可感知性之间要进行权衡。 在这里，我们展示了每个`ε`值下成功对抗示例的一些示例。 绘图的每一行显示不同的ε值。 第一行是`ε = 0`示例，这些示例表示没有干扰的原始“干净”图像。 每张图片的标题均显示“原始分类->对抗分类”。 注意，扰动在`ε = 0.15`处开始变得明显，而在`ε = 0.3`处则非常明显。 但是，在所有情况下，尽管增加了噪音，人类仍然能够识别正确的类别。 ```py # Plot several examples of adversarial samples at each epsilon diff --git a/new/pt-tut-17/35.md b/new/pt-tut-17/35.md index 8e4614cc58f0f4d6796d3fcfcb43f1fff8c3f7b9..dd752596acf7ad236ee6ddd49b74bb511c5f3185 100644 --- a/new/pt-tut-17/35.md +++ b/new/pt-tut-17/35.md @@ -313,7 +313,7 @@ class Mario(Mario): # subclassing for continuity Mario 在后台使用 [DDQN 算法](https://arxiv.org/pdf/1509.06461)。 DDQN 使用两个 ConvNet-\（Q_ {online} \）和\（Q_ {target} \）-独立地逼近最佳作用值函数。 -在我们的实现中，我们在\（Q_ {online} \）和\（Q_ {target} \）之间共享特征生成器`features`，但是为每个特征维护单独的 FC 分类器。 \（\ theta_ {target} \）（\（Q_ {target} \）的参数）被冻结，以防止反向传播进行更新。 而是定期与\（\ theta_ {online} \）同步（稍后会对此进行详细介绍）。 +在我们的实现中，我们在\（Q_ {online} \）和\（Q_ {target} \）之间共享特征生成器`features`，但是为每个特征维护单独的 FC 分类器。 `θ_target`（\（Q_ {target} \）的参数）被冻结，以防止反向传播进行更新。 而是定期与`θ_online`同步（稍后会对此进行详细介绍）。 #### 神经网络 @@ -367,13 +367,13 @@ class MarioNet(nn.Module): \[{TD}_e = Q_{online}^*(s,a)\] -**TD 目标**-当前奖励和下一状态\（s'\）中的估计\（Q ^ * \）的汇总 +**TD 目标**-当前奖励和下一状态`s'`中的估计\（Q ^ * \）的汇总 \[a' = argmax_{a} Q_{online}(s', a)\] \[{TD}_t = r + \gamma Q_{target}^*(s',a')\] -由于我们不知道下一个动作\（a'\）是什么，因此我们在下一个状态\（s'\）中使用动作\（a'\）最大化\（Q_ {online} \）。 +由于我们不知道下一个动作`a'`是什么，因此我们在下一个状态`s'`中使用动作`a'`最大化\（Q_ {online} \）。 -请注意，我们在`td_target()`上使用了 [@ torch.no_grad（）](https://pytorch.org/docs/stable/generated/torch.no_grad.html#no-grad)装饰器来禁用梯度计算（因为我们无需在\（\ theta_ {target} \）上进行反向传播。） +请注意，我们在`td_target()`上使用了 [@ torch.no_grad（）](https://pytorch.org/docs/stable/generated/torch.no_grad.html#no-grad)装饰器来禁用梯度计算（因为我们无需在`θ_target`上进行反向传播。） ```py class Mario(Mario): @@ -400,11 +400,11 @@ class Mario(Mario): #### 更新模型 -当 Mario 从其重播缓冲区中采样输入时，我们计算`TD_t`和`TD_e`并反向传播该损耗\（Q_ {online} \）以更新其参数\（\ theta_ {online} \）（\ （\ alpha \）是传递给`optimizer`的学习率`lr`） +当 Mario 从其重播缓冲区中采样输入时，我们计算`TD_t`和`TD_e`并反向传播该损耗\（Q_ {online} \）以更新其参数`θ_online`（\ （\ alpha \）是传递给`optimizer`的学习率`lr`） \[\theta_{online} \leftarrow \theta_{online} + \alpha \nabla(TD_e - TD_t)\] -\（\ theta_ {target} \）不会通过反向传播进行更新。 相反，我们会定期将\（\ theta_ {online} \）复制到\（\ theta_ {target} \） +`θ_target`不会通过反向传播进行更新。 相反，我们会定期将`θ_online`复制到`θ_target` \[\theta_{target} \leftarrow \theta_{online}\] diff --git a/new/pt-tut-17/63.md b/new/pt-tut-17/63.md index 3d5a1e0403649596e40d2c881191b4353ef90617..17904ef1045849976b7fcf0ccd4a42c23843aaae 100644 --- a/new/pt-tut-17/63.md +++ b/new/pt-tut-17/63.md @@ -145,7 +145,7 @@ def run(rank, size): * `dist.broadcast(tensor, src, group)`：将`tensor`从`src`复制到所有其他进程。 * `dist.reduce(tensor, dst, op, group)`：将`op`应用于所有`tensor`，并将结果存储在`dst`中。 * `dist.all_reduce(tensor, op, group)`：与 reduce 相同，但是结果存储在所有进程中。 -* `dist.scatter(tensor, src, scatter_list, group)`：将\（i ^ {\ text {th}} \）张量`scatter_list[i]`复制到\（i ^ {\ text {th}} \）过程。 +* `dist.scatter(tensor, src, scatter_list, group)`：将第`i`个张量`scatter_list[i]`复制到第`i`个过程。 * `dist.gather(tensor, dst, gather_list, group)`：从`dst`中的所有进程复制`tensor`。 * `dist.all_gather(tensor_list, tensor, group)`：将所有进程中的`tensor`从所有进程复制到`tensor_list`。 * `dist.barrier(group)`：阻止组中的所有进程，直到每个进程都进入此功能。