一、自注意力概述 随着深度学习的发展，自然语言处理任务变得越来越重要。针对文本序列数据，传统的循环神经网络在处理长序列时存在较大的局限。自注意力机制由此应运而生，它将输入序列中的每…