基于模态对齐的动作提示的视觉语言导航系统及方法
首页 企业 产品 技术 资讯 图库 视频 需求 会议 活动 产业
基于模态对齐的动作提示的视觉语言导航系统及方法
来源:北方有色网
访问:871
简介: 本发明提供一种基于模态对齐的动作提示的视觉语言导航系统及方法,系统包括动作提示集产生模块,输入指令到动作提示集产生模块,智能体在导航开始前从动作提示库中检索与指令相关的动作提示集;模态对齐动作提示的视觉语言导航模块,动作提示集通过提示编码模块,输出提示特征与文本编码模块的输出指令特征连接在一起;基于提示的指令特征和视觉编码模块的输出视觉特征被提供给多层transformer用来做动作决策。优化学习模块,即模态对齐损失模块和连续一致性损失模块,实现有效的动作提示学习;本发明重点提出了显式的模态对齐的动作提示,以提高智能体导航的准确性和不同环境中的泛化能力。
本发明提供一种基于模态对齐的动作提示的视觉语言导航系统及方法,系统包括动作提示集产生模块,输入指令到动作提示集产生模块,智能体在导航开始前从动作提示库中检索与指令相关的动作提示集;模态对齐动作提示的视觉语言导航模块,动作提示集通过提示编码模块,输出提示特征与文本编码模块的输出指令特征连接在一起;基于提示的指令特征和视觉编码模块的输出视觉特征被提供给多层transformer用来做动作决策。优化学习模块,即模态对齐损失模块和连续一致性损失模块,实现有效的动作提示学习;本发明重点提出了显式的模态对齐的动作提示,以提高智能体导航的准确性和不同环境中的泛化能力。
0
0
0
0
0
         
标签:化学分析
广州铭谦选矿设备有限公司宣传
广州铭谦选矿设备有限公司宣传
相关技术
评论(0条)
200/200
牛津仪器科技(上海)有限公司宣传
发布
技术

顶部
北方有色网-互联网服务平台-关于我们
Copyright 2025 China-mcc.com All Rights Reserved
备案号:京ICP备11044340号-3
电信业务经营许可证编号:京B2-20242293
京公网安备 11010702002294号