现如今，深度学习算法在许多领域都取得了巨大的成功，其中又以视觉领域最为突出。深度卷积神经网络具有强大的特征提取和模式识别能力，但模型的黑盒现象已经成为一个普遍的问题。因为很难理解它…