术语定义
剪枝(Pruning),中文通常称为模型剪枝。移除或屏蔽部分权重、通道或结构,以降低模型复杂度的压缩方法。
应用示例
去掉贡献较小的网络通道后重新微调,检查任务质量是否下降。
理解要点
参数减少不必然产生等比例加速,非结构化稀疏尤其依赖运行时支持。
剪枝(Pruning),中文通常称为模型剪枝。移除或屏蔽部分权重、通道或结构,以降低模型复杂度的压缩方法。
去掉贡献较小的网络通道后重新微调,检查任务质量是否下降。
参数减少不必然产生等比例加速,非结构化稀疏尤其依赖运行时支持。
跑一轮真实检测,拿到评分和问题清单。