aoi学院

Aisaka's Blog, School of Aoi, Aisaka University

SFFAI 11 | 自注意力机制在计算机视觉中的应用

关注微信公众号:人工智能前沿讲习班,公众号对话框回复“蒋正锴”获取视频PPT。
在神经网络中,我们知道卷积层通过卷积核和原始特征的线性结合得到输出特征,由于卷积核通常是局部的,为了增加感受野,往往采取堆叠卷积层的方式,实际上这种处理方式并不高效。同时,计算机视觉的很多任务都是由于语义信息不足从而影响最终的性能。自注意力机制通过捕捉全局的信息来获得更大的感受野和上下文信息。这次的分享主要从自注意力的角度分析最近的一些发展,以及相应的改进方案。


参考资料

https://www.bilibili.com/video/BV1ct411Y7BD/