大部分引用参考了既安的https://www.zhihu.com/question/337886108/answer/893002189这篇文章，个人认为写的很清晰，此外补充了一些自己的笔记。

弄清楚Decoder的输入输出，关键在于图示三个箭头的位置：

以翻译为例：

• 输入：我爱中国
• 输出： I Love China

因为输入（“我爱中国”）在Encoder中进行了编码，这里我们具体讨论Decoder的操作，也就是如何得到输出（“I Love China”）的过程。

Decoder执行步骤

Time Step 1

• 初始输入： 起始符</s> + Positional Encoding（位置编码）
• 中间输入：（我爱中国）Encoder Embedding
• 最终输出： 产生预测“I”

Time Step 2

• 初始输入：起始符</s> + “I”+ Positonal Encoding
• 中间输入：（我爱中国）Encoder Embedding
• 最终输出：产生预测“Love”

Time Step 3

• 初始输入：起始符</s> + “I”+ “Love”+ Positonal Encoding
• 中间输入：（我爱中国）Encoder Embedding
• 最终输出：产生预测“China”
  
  

图示

整体右移一位（Shifted Right）

论文在Decoder的输入上，对Outputs有Shifted Right操作。

Shifted Right 实质上是给输出添加起始符/结束符，方便预测第一个Token/结束预测过程。

正常的输出序列位置关系如下：

• 0-“I”
• 1-“Love”
• 2-“China”

但在执行的过程中，我们在初始输出中添加了起始符，相当于将输出整体右移一位（Shifted Right），所以输出序列变成如下情况：

• 0-【起始符】
• 1-“I”
• 2-“Love”
• 3-“China”

这样我们就可以通过起始符预测“I”，也就是通过起始符预测实际的第一个输出。

笔记

Transformer中Decoders也是 N=6 层，通过上图我们可以看到每层 Decoder 包括 3 个 sub-layers：

• 第一个 sub-layer是 Masked Multi-Head Self-Attention，这个层的输入是：
  前一时刻Decoder输入+前一时刻Decoder的预测结果 + Positional Encoding。

• 第二个sub-layer是Encoder-Decoder Multi-Head Attention，这个层的输入是：
  Encoder Embedding+上层输出。
  也就是在这个层中：
  Q是Decoder的上层输出（即Masked Multi-Head Self-Attention的输出）
  K\V是Encoder的最终输出
  tips：这个层不是Self-Attention，K=V!=Q（等号是同源的意思）。

• 第三个 sub-layer 是前馈神经网络层，与 Encoder 相同。
  
  

总结

Transformer Decoder的输入：

• 初始输入：前一时刻Decoder输入+前一时刻Decoder的预测结果 + Positional Encoding
• 中间输入：Encoder Embedding
• Shifted Right：在输出前添加起始符，方便预测第一个Token