解决方案：总结描述下知识蒸馏、量化、剪枝的区别
一、现象
在算法中，时而会听到知识蒸馏、量化、剪枝这三个专业名词，进行记录
二、解决方案
- 知识蒸馏：一般将复杂、学习能力强的网络学到的特征表示“知识”蒸馏出来，传递给参数量小、学习能力弱的网络。
- 量化：就是用较低位宽表示典型的 32 位浮点网络参数。
- 剪枝：主要思想就是将权重矩阵中相对“不重要”的权值剔除。
原文地址：https://blog.csdn.net/weixin_42504788/article/details/142901263
免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！