词典 / 科技

网络剪枝

network pruning

过度参数化(over-parameterization)是深度神经网络的一个普遍属性,这会导致高计算成本和高内存占用。作为一种补救措施,网络剪枝(network pruning)已被证实是一种有效的改进技术,可以在计算预算有限的情况下提高深度网络的效率。

网络剪枝的过程一般包括三个阶段:1)训练一个大型,过度参数化的模型,2)根据特定标准修剪训练好的大模型,以及3)微调(fine-tune)剪枝后的模型以重新获得丢失的性能。

相关词条

舒经活络

soothe the channels and quicken the network vessels

补充或纠正词条 →