基于最佳聚类的 CNN 模型压缩算法

  • 摘要: 如今,CNN 模型被越来越广泛地应用到了各个工业领域中,但这类深度学习模型的参数量都过于庞大,这就导致 将 CNN 置于移动设备储存变得非常困难。为了解决这个问题,本文提出了一种基于最佳聚类的 CNN 模型压缩算法,该 算法首先将 CNN 模型中的全连接层参数,按照最佳 K 均值聚类方法进行聚类,然后仅将聚类中心样本作为模型参数进行 存储,最后在模型正向计算时,对聚类中心样本进行简单的线性变换,从而在压缩模型储存量的同时,提升模型的准确率。 实验在 CIFAR-10 和 SVHN 等数据库上对 LeNet、AlexNet 和 vgg16 这类常见 CNN 模型进行测试,并将压缩模型的参数耗 存和分类准确率与其他模型压缩算法进行对比,实验结果表明,本文所提算法能在大幅度压缩 CNN 模型所需内存的情况 下,确保更高的模型准确率。

     

/

返回文章
返回