一、自注意力概述 隨著深度學習的發展，自然語言處理任務變得越來越重要。針對文本序列數據，傳統的循環神經網路在處理長序列時存在較大的局限。自注意力機制由此應運而生，它將輸入序列中的每…