(19)国家知识产权局 (12)发明 专利 (10)授权公告 号 (45)授权公告日 (21)申请 号 202111427112.1 (22)申请日 2021.11.28 (65)同一申请的已公布的文献号 申请公布号 CN 114187527 A (43)申请公布日 2022.03.15 (73)专利权人 中国电子科技 集团公司第二十 研 究所 地址 710068 陕西省西安市雁塔区白沙路1 号 (72)发明人 张修社　韩春雷　亓子龙　任子豪　 孙晓龙　 (74)专利代理 机构 西北工业大 学专利中心 61204 专利代理师 金凤(51)Int.Cl. G06V 20/13(2022.01) G06V 10/26(2022.01) G06V 10/44(2022.01) G06V 10/764(2022.01) G06V 10/82(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01) G06N 20/00(2019.01) 审查员 郭一浓 (54)发明名称 基于线性加热和快照集成的迁移学习舰船 目标分割方法 (57)摘要 本发明提供了一种基于线性加热和快照集 成的迁移学习舰船目标分割方法， )将舰船目标 的大小分布均匀的数据集作为源域数据集， 将验 证分割效果的数据集作为目标域数据集， 构建源 域的基于全局注意力编解码网络， 得到在源域测 试集上的分割准确率最高的模型， 构建目标域的 基于全局注 意力编解码网络， 得到的最终分割模 型， 使用最终的分割模型对目标域测试数据集进 行测试， 得到最终的分割结果。 本发明可在 目标 域上可以实现较少标签下的舰船目标分割， 一定 程度上解决了目标域标签需求量大的问题， 集成 了循环余弦退火的每个周期内的最优模型， 避免 了目标域数据量较少时训练不稳定进而造成负 迁移的情况 出现， 增强了模型的鲁棒 性。 权利要求书2页 说明书7页 附图5页 CN 114187527 B 2022.12.27 CN 114187527 B 1.一种基于线性加热和快照 集成的迁移学习舰船目标分割方法， 其特征在于包括下述 步骤： (1)将舰船目标的大小分布均匀的数据集作为源域数据集， 并将源域数据集按比例划 分为源域训练数据集和源域测试 数据集； (2)将验证分割效果的数据集作为目标域数据集， 并且将 目标域数据集按比例划分为 目标域训练数据集、 目标域验证数据集和目标域测试 数据集； (3)构建源域的基于全局注意力编解码网络， 使用源域训练数据集对全局注意力编解 码网络进行训练， 每轮迭代后保留当前在源域测试集上 的分割准确 率最高的模型， 达到最 大迭代次数后， 得到在源域测试集上的分割准确率 最高的模型； 具体步骤为： (3a)构建源域的基于全局注意力编解码网络， 基于全局注意力编解码网络为级联的输 入层、 编码层与级联的解码层、 输出层， 编码层与解码层由全局注意力模块连接； (3b)设置训练优化器为SGD， 损失函数采用交叉熵损失； (3c)采用小批量梯度下降算法， 使用源域训练数据集对源域的基于全局注意力编解码 网络进行训练， 训练过程中每次迭代后， 使用源域测试数据集进 行测试， 直至达到最大迭代 次数， 得到在源域测试 数据集上测试 结果最好的模型最 为源域上的最佳模型MS； (4)采用与构建源域的基于全局注意力编解码网络相同的方式， 构建目标域的基于全 局注意力编 解码网络， 目标域的基于全局注意力编解码网络模型MT的参数由MS的参数进行 初始化； (5)使用学习率设置方法中的线性加热策略设置训练前期的学习率， 使用学习率设置 方法中的循环余弦退火策略设置训练后期的学习率， 使用集成方法中的快照集成策略进 行 集成， 快照集成策略中保留的模型为循环余弦退火策略中每轮循环在目标域验证集上分割 准确率最高的模型， 优化器采用SGD， 损失函数采用交叉熵损失函数， 快照集成策略中保留 的最后三个模型即为得到的最终分割模型ME； (6)使用最终的分割模型ME对目标域测试 数据集进行测试， 得到最终的分割结果。 2.根据权利要求1所述的基于线性加热和快照集成的迁移学习舰船目标分割方法， 其 特征在于： 所述源域数据集按照4:1的比例划分为源域训练数据集和源域测试数据集， 目标域数 据集按照4:1:1的比例划分为目标域训练数据集、 目标域验证数据集和目标域测试 数据集。 3.根据权利要求1所述的基于线性加热和快照集成的迁移学习舰船目标分割方法， 其 特征在于： 所述交叉熵损失函数的表示 为； 其中， X表示样 本的个数， C表示类别的个数， 表示样本x的标签， 样本x为第c类时 为 1， 为其他类是 为0， 表示样本x预测为第c类的概 率。 4.根据权利要求1所述的基于线性加热和快照集成的迁移学习舰船目标分割方法， 其 特征在于： 所述最佳模型MS为： 每轮迭代后保留当前在源域测试集上分割准确率最高的模型， 直至权　利　要　求　书 1/2 页 2 CN 114187527 B 2达到最大迭代次数ES后， 得到在源域测试数据集上分割准确率最高的模型， 将此模型作为 源域上的最佳模型MS。 5.根据权利要求1所述的基于线性加热和快照集成的迁移学习舰船目标分割方法， 其 特征在于： 所述步骤(5)的具体步骤为： (5a)设置初始线性加热的迭代轮数El、 初始学习率lrl、 快照集成策略中循环余弦退火 的初始学习率 lrm、 变换周期 期间迭代的总轮数Em和使用的周期个数n； (5b)使用目标域训练数据集的k％进行微调训练， 在前El轮迭代中使用线 性加热策略设 置学习率， 在之后的Em轮迭代中使用循环余弦退火策略设置学习率， 在循环余弦退火阶段， 每Em/n次迭代后保存当前Em/n次迭代中在目标域验证集上分割准确率最高的模型 (5c)使用快照集成策略， 选取 中三个模型作为最终的分割模型ME， 其中i＝n ‑3， n‑2， n‑1， 在分割时， 将三个模型的分割结果进行平均， 得到最终的分割模型ME。 6.根据权利要求5所述的基于线性加热和快照集成的迁移学习舰船目标分割方法， 其 特征在于： 所述步骤(5a)中取值为： 初始线性加热的迭代轮数El为10， 初始学习率lrl为0.0001， 快 照集成策略中循环余弦退火的初始学习率lrm为0.01， 变换周期期间迭代的总轮数Em为50， 使用的周期个数n 为5。权　利　要　求　书 2/2 页 3 CN 114187527 B 3