基于深度强化学习的流水线并行训练任务分配方法
首页 企业 产品 技术 资讯 图库 视频 需求 会议 活动 产业
基于深度强化学习的流水线并行训练任务分配方法
来源:北方有色网
访问:885
简介: 本发明公开一种基于深度强化学习的流水线并行训练任务分配方法,步骤为:初始化深度学习模型,并把该模型载入;建立对目标深度学习模型运行时分析方案,构建模型参数文本库;根据获取的模型参数文本信息,构建任务分配预测网络;使用策略梯度训练预测网络,直至生成最优流水线并行任务分配方案;按照生成的最优任务分配方案,在异构计算节点中部署模型,完成训练任务。本发明有效避免节点计算能力和网络带宽差差异带来的负载不均衡问题,提高模型训练速度,并且模型参数越大,提升效果越明显。
本发明公开一种基于深度强化学习的流水线并行训练任务分配方法,步骤为:初始化深度学习模型,并把该模型载入;建立对目标深度学习模型运行时分析方案,构建模型参数文本库;根据获取的模型参数文本信息,构建任务分配预测网络;使用策略梯度训练预测网络,直至生成最优流水线并行任务分配方案;按照生成的最优任务分配方案,在异构计算节点中部署模型,完成训练任务。本发明有效避免节点计算能力和网络带宽差差异带来的负载不均衡问题,提高模型训练速度,并且模型参数越大,提升效果越明显。
0
0
0
0
0
         
标签:化学分析
广州铭谦选矿设备有限公司宣传
广州铭谦选矿设备有限公司宣传
相关技术
评论(0条)
200/200
牛津仪器科技(上海)有限公司宣传
发布
技术

顶部
北方有色网-互联网服务平台-关于我们
Copyright 2025 China-mcc.com All Rights Reserved
备案号:京ICP备11044340号-3
电信业务经营许可证编号:京B2-20242293
京公网安备 11010702002294号