敏感度分析和强化学习的神经网络剪枝方法、系统及装置
敏感度分析和强化学习的神经网络剪枝方法、系统及装置
来源:北方有色网
访问:1023
简介:
本发明公开了一种敏感度分析和强化学习的神经网络剪枝方法、系统及装置,包括:设定稀疏度阈值步骤,选择低敏感度的权重进行剪枝;获取裁剪办法和精度步骤,根据上述的敏感度权重确定需要进行随机剪枝的权重;对被选定的每一个权重进行随机裁剪,将多次随机裁剪的剪枝办法和精度放入缓冲区;训练强化学习步骤,利用缓冲区中的数据训练强化学习代理,训练后生成的裁剪办法和精度放入缓冲区;重复进行,直到网络精度达到预设值。本发明选择低敏感度的权重进行剪枝,设定各权重的稀疏度阈值保证被裁剪的权重采用当前稀疏度进程裁剪后,网络下降的精度保持在预设范围以内。在保证网络精度的情况下,最大化的提升了神经网络的压缩率。
本发明公开了一种敏感度分析和强化学习的神经网络剪枝方法、系统及装置,包括:设定稀疏度阈值步骤,选择低敏感度的权重进行剪枝;获取裁剪办法和精度步骤,根据上述的敏感度权重确定需要进行随机剪枝的权重;对被选定的每一个权重进行随机裁剪,将多次随机裁剪的剪枝办法和精度放入缓冲区;训练强化学习步骤,利用缓冲区中的数据训练强化学习代理,训练后生成的裁剪办法和精度放入缓冲区;重复进行,直到网络精度达到预设值。本发明选择低敏感度的权重进行剪枝,设定各权重的稀疏度阈值保证被裁剪的权重采用当前稀疏度进程裁剪后,网络下降的精度保持在预设范围以内。在保证网络精度的情况下,最大化的提升了神经网络的压缩率。
标签:化学分析
宣传
宣传
宣传
顶部