一、知識蒸餾概述 知識蒸餾，是指將複雜的模型中所包含的知識遷移到簡單的模型中，使得簡單模型能夠具備複雜模型的性能，從而減小了模型的計算負擔，同時保證了模型的準確性。 知識蒸餾通過從…