题目：AN IMAGE IS WORTH 16X16 WORDS: TRANSFORMERS FOR IMAGE RECOGNITION AT SCALE
1.概述
之前的transformer在cv中应用，大部分是将CNN模型中部分替换成transformer block（整体网络结构不变）或者用transformer将不同网络连接起来，而本文提出：一个针对图像patch的纯的transformer可以很好地完成图像分类任务，无需CNN的参与，这无疑打通了nlp和cv的壁垒。除此之外，相比于相同效果的CNN网络，VIT只需更少的计算资源。
transformer之所以只应用于部分代替，原因是：需要每个token进行两两计算关系，其复杂度是O(n^2)
，如果使用逐像素输入，则无法承担这么大的计算量，故为了降低输入序列的长度，之前的做法有：（文中提及的处理序列太长问题的方法）
- 对Feature Map进行transfomer，如 14×14的特征图也就是1×196的序列长度，可以承受。
- Stand-Alone Attention（孤注意力）：使用一个local window进行输入，再进行平滑。利用这种局部多头点积自注意力块完全替代卷积。
- Sparse Transformer：采用可
