说明:收录全网最新的团体标准 提供单次或批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210568388.X (22)申请日 2022.05.23 (71)申请人 北京地平线信息技 术有限公司 地址 100094 北京市海淀区丰豪东路9号院 2号楼3层1单 元301 (72)发明人 周恩慈 张骞 黄畅  (74)专利代理 机构 北京思源智汇知识产权代理 有限公司 1 1657 专利代理师 李洪娟 (51)Int.Cl. G06V 10/774(2022.01) G06V 10/80(2022.01) G06V 10/82(2022.01) G06N 3/08(2006.01) G06N 5/04(2006.01) (54)发明名称 多任务模 型训练方法、 装置及计算机可读存 储介质 (57)摘要 公开了一种多任务模 型训练方法、 装置及计 算机可读存储介质。 该方法包括: 确定多个数据 源对应的多组样本图像, 其中, 每一数据源对应 一组样本图像; 确定待训练的多任务模型的目标 BN参数、 目标权重参数和目标偏置参数; 通过多 组样本图像, 对目标BN参数、 目标权重参数和目 标偏置参数进行第一阶段训练; 将目标BN参数置 于推理状态; 在 目标BN参数的推理状态下, 通过 多组样本图像对目标权重参数和目标偏置参数 进行第二阶段训练。 本公开实施例可以提升训练 得到的多 任务模型的性能。 权利要求书2页 说明书13页 附图9页 CN 114998676 A 2022.09.02 CN 114998676 A 1.一种多任务模型训练方法, 包括: 确定多个数据源 对应的多组样本图像, 其中, 每一数据源 对应一组样本图像; 确定待训练的多任务模型的目标BN 参数、 目标权 重参数和目标偏置参数; 通过所述多组样本 图像, 对所述目标BN参数、 所述目标权重参数和所述目标偏置参数 进行第一阶段训练; 将所述目标BN 参数置于推理状态; 在所述目标BN参数的推理状态下, 通过所述多组样本图像对所述目标权重参数和所述 目标偏置参数进行第二阶段训练。 2.根据权利要求1所述的方法, 其中, 所述目标BN参数包括所述多任务模型的BN均值、 BN方差、 BN权重和BN偏置, 所述目标权 重参数包括所述多任务模型的除了BN权重 之外的权重, 所述目标偏 置参数包括所述多任务 模型的除了BN偏置之外的偏置; 或者, 所述目标BN参数包括所述多任务模型的BN均值和BN方差, 所述目标权重参数包括所述 多任务模型的BN权重和所述多任务模 型的除了BN权重 之外的权重, 所述目标偏置参数包括 所述多任务模型的BN偏置和所述多任务模型的除了BN偏置之外的偏置 。 3.根据权利要求2所述的方法, 其中, 若所述目标BN参数包括所述多任务模型的BN均值、 BN方差、 BN权重和BN偏置, 所述将所 述目标BN 参数置于推理状态, 包括: 将所述多任务模型中BN层的层状态值设置为第一预设值; 将所述多任务模型中BN权 重和BN偏置各自的参数状态值均设置为第二预设值; 或者, 若所述目标BN参数包括所述多任务模型的BN均值和BN方差, 所述将所述目标BN参数置 于推理状态, 包括: 将所述多任务模型中BN层的层状态值设置为第一预设值。 4.根据权利要求1所述的方法, 其中, 所述将所述目标BN 参数置于推理状态, 包括: 将所述多任务模型中的特征提取网络的第一BN参数置于推理状态, 所述第一BN参数至 少包括所述特 征提取网络的BN均值和BN方差; 将所述多任务模型中的特征融合网络的第二BN参数置于推理状态, 所述第二BN参数至 少包括所述特 征融合网络的BN均值和BN方差; 所述方法还 包括: 在所述第 一BN参数的推理状态下, 通过所述多组样本图像对所述特征提取网络的除了 所述第一BN参数之外的权重和偏置, 所述第二BN参数, 所述特征融合网络的除了所述第二 BN参数之外的权重和偏置, 以及所述多任务模型中的非共享网络的权重和偏置进 行第三阶 段训练。 5.根据权利要求1至4中任一所述的方法, 其中, 所述第一阶段训练使用的学习率 为第一学习率; 所述第二阶段训练使用的学习率为第 二学习率, 所述第 二学习率大于或等于所述第 一权 利 要 求 书 1/2 页 2 CN 114998676 A 2学习率。 6.根据权利要求1至4中任一所述的方法, 还 包括: 响应于所述多任务模型中的非共享网络 中的目标预测网络满足预设参数更新条件, 将 所述非共享网络中除了所述目标 预测网络之外的预测网络的权 重和偏置均置 于推理状态; 将所述多任务模型中的共享网络的位于所述目标BN参数之外的权重和偏置均置于推 理状态; 通过所述多组样本图像对所述目标 预测网络的权 重和偏置进行第四阶段训练。 7.根据权利要求6所述的方法, 还 包括: 响应于所述目标检测网络的权重和偏置均置于推理状态, 将所述目标检测网络的权重 和偏置由推理状态切换为训练状态; 所述通过所述多组样本图像对所述目标预测网络的权重和偏置进行第四阶段训练, 包 括: 在所述目标预测网络的权重和偏置的训练状态下, 通过所述多组样本图像对所述目标 预测网络的权 重和偏置进行第四阶段训练。 8.一种多任务模型训练装置, 包括: 第一确定模块, 用于确定多个数据源对应的多组样本图像, 其中, 每一数据源对应一组 样本图像; 第二确定模块, 用于确定待训练的多任务模型的目标BN参数、 目标权重参数和目标偏 置参数; 第一训练模块, 用于通过所述第一确定模块确定的所述多组样本 图像, 对所述第二确 定模块确定的所述目标BN参数、 所述目标权重参数和所述目标偏置参数进行第一阶段训 练; 第一状态设置模块, 用于将所述第二确定模块确定的所述目标BN 参数置于推理状态; 第二训练模块, 用于在所述第二确定模块确定的所述目标BN参数的推理状态下, 通过 所述第一确定模块确定的所述多组样本图像对所述第二确定模块确定的所述目标权重参 数和所述目标偏置参数进行第二阶段训练。 9.一种计算机可读存储介质, 所述存储介质存储有计算机程序, 所述计算机程序用于 执行上述权利要求1 ‑7中任一所述的多任务模型训练方法。 10.一种电子设备, 所述电子设备包括: 处理器; 用于存储所述处 理器可执行指令的存 储器; 所述处理器, 用于从所述存储器中读取所述可执行指令, 并执行所述指令以实现上述 权利要求1 ‑7中任一所述的多任务模型训练方法。权 利 要 求 书 2/2 页 3 CN 114998676 A 3

.PDF文档 专利 多任务模型训练方法、装置及计算机可读存储介质

文档预览
中文文档 25 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共25页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 多任务模型训练方法、装置及计算机可读存储介质 第 1 页 专利 多任务模型训练方法、装置及计算机可读存储介质 第 2 页 专利 多任务模型训练方法、装置及计算机可读存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 12:49:50上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。