模型压缩方法、系统、终端及存储介质
首页 企业 产品 技术 资讯 图库 视频 需求 会议 活动 产业
模型压缩方法、系统、终端及存储介质
来源:北方有色网
访问:1037
简介: 本发明提供了一种模型压缩方法、系统、终端及存储介质,该方法包括:对待压缩模型进行模型训练,在待压缩模型中添加正则项和奇异值分解,得到奇异值矩阵,根据奇异值矩阵返回执行对待压缩模型进行模型训练的步骤及后续步骤,直至待压缩模型满足性能下降条件,输出待压缩模型;根据待压缩模型的权重张量进行参数聚类,得到权重参数矩阵,对权重参数矩阵进行权值量化,得到聚类量化矩阵;根据聚类量化矩阵对待压缩模型进行参数设置,得到压缩模型。本发明基于稀疏正则化、迭代剪枝和聚类量化的联合模型压缩方式,从全局的角度上对待压缩模型进行模型压缩,在保障精度不减的前提下,实现了最大化的模型压缩。
本发明提供了一种模型压缩方法、系统、终端及存储介质,该方法包括:对待压缩模型进行模型训练,在待压缩模型中添加正则项和奇异值分解,得到奇异值矩阵,根据奇异值矩阵返回执行对待压缩模型进行模型训练的步骤及后续步骤,直至待压缩模型满足性能下降条件,输出待压缩模型;根据待压缩模型的权重张量进行参数聚类,得到权重参数矩阵,对权重参数矩阵进行权值量化,得到聚类量化矩阵;根据聚类量化矩阵对待压缩模型进行参数设置,得到压缩模型。本发明基于稀疏正则化、迭代剪枝和聚类量化的联合模型压缩方式,从全局的角度上对待压缩模型进行模型压缩,在保障精度不减的前提下,实现了最大化的模型压缩。
0
0
0
0
0
         
标签:物理检测
广州铭谦选矿设备有限公司宣传
广州铭谦选矿设备有限公司宣传
相关技术
评论(0条)
200/200
牛津仪器科技(上海)有限公司宣传
发布
技术

顶部
北方有色网-互联网服务平台-关于我们
Copyright 2025 China-mcc.com All Rights Reserved
备案号:京ICP备11044340号-3
电信业务经营许可证编号:京B2-20242293
京公网安备 11010702002294号