背景

主要是要解决self-attention空间复杂度的问题，因为对于gpu计算来说，内存空间非常宝贵，序列长度较长的时候会出现oom问题。

用线性时间解决self-attention问题

解决数据稳定问题

因为由于进行求和计算，容易导致浮点数超过最大值，而变成无效结果，所以对结果进行了最大值正则化。