(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111654351.0 (22)申请日 2021.12.3 0 (71)申请人 武汉大学 地址 430072 湖北省武汉市武昌区珞珈山 武汉大学 (72)发明人 邵振峰　庄庆威　 (74)专利代理 机构 武汉科皓知识产权代理事务 所(特殊普通 合伙) 42222 代理人 严彦 (51)Int.Cl. G06V 20/13(2022.01) G06V 10/764(2022.01) G06V 10/774(2022.01) G06V 10/82(2022.01) G06K 9/62(2022.01)G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 基于元学习和注意力的小样本城市遥感影 像信息提取方法 (57)摘要 本发明提供一种基于元学习和注意力的小 样本城市遥感影像信息提取方法， 包括构建小样 本城市遥感信息预训练模型， 在预训练阶段， 通 过对小样 本集进行预训练网络学习， 充分学习已 有样本的特征信息， 得到小样 本集的初始特征参 数和深层卷积网络主干； 构建 “时空谱角 ”注意力 模型， 用于使网络在训练过程中关注重要的 “时 空谱角”信息， 抑制噪声和冗余信息， 提高模型的 分类性能； 建立元学习 与注意力协同机制并实现 小样本城市遥感信息提取， 包括将 “时空谱角 ”注 意力模型得到的特征参量和初始的特征参量进 行并行关联学习， 引入正则化器使交叉熵和结构 风险最小化， 实现对小样本信息的充分挖掘。 应 用本发明使得小样本城市典型地物信息提取的 精度更高。 权利要求书2页 说明书6页 附图1页 CN 114283345 A 2022.04.05 CN 114283345 A 1.一种基于元学习和注意力的小样本城市遥感影像信息提取方法， 其特征在于： 包括 以下步骤， 步骤1， 构建小样本城市遥感信息预训练模型， 在预训练阶段， 通过对小样本集进行预 训练网络学习， 充分学习已有样本的特征信息， 得到小样本集的初始特征参数和深层卷积 网络主干； 步骤2， 构建 “时空谱角 ”注意力模型， 用于使网络在训练过程中关注重要的 “时空谱角 ” 信息， 抑制噪声和冗余信息， 提高模型的分类性能； 步骤3， 建立元学习与注意力协同机制并实现小样本城市遥感信息提取， 包括将 “时空 谱角”注意力模型得到的特征参量和初始的特征参量进行并行关联学习， 引入正则化器使 交叉熵和结构风险最小化， 实现对小样本信息的充分挖掘。 2.根据权利要求1所述基于元学习和注意力的小样本城市遥感影像信息提取方法， 其 特征在于： 步骤1中， 所述小样本城市遥感信息预训练模型是一个由卷积层、 池化层和全连 接层组成的网络结构， 有5段卷积网络， 每一段内有2个或3个卷积层， 每段结尾连接一个最 大池化层用于缩小图片尺寸； 各段内部的卷积核数量一样， 越靠近全连接层卷积核数量越 多。 3.根据权利要求2所述基于元学习和注意力的小样本城市遥感影像信息提取方法， 其 特征在于： 所述小样本城市遥感信息预训练模型中的卷积网络实现如下， 第一段卷积网络由两个卷积层和一个最大池化层组成， 输出通道数为64， 输出的尺寸 为112×112×64； 第二段卷积网络由两个卷积层和一个最大池化层组成， 输出通道数为128， 输出尺寸为 56×56×128； 第三段卷积网络由三个卷积层和一个最大池化层组成， 输出通道数为256， 输出尺寸为 28×28×256； 第四段卷积网络由三个卷积层和一个最大池化层组成， 输出通道数为512， 输出尺寸为 14×14×512； 第五段卷积网络由三个卷积层和一个最大池化层组成， 输出通道数为512， 输出尺寸为 7×7×512； 将第五段卷积网络输出的结果扁平化表示为一维向量， 然后输入第 一个全连接层相应 相应Dropout层， 再输入第二个全 连接层及相应Dr opout层； 最后输入第三个全 连接层， 第三 个全连接层输出节点为1000， 使用softmax函数处理得到分类输出概率， 同时得到分类结 果。 4.根据权利要求1所述基于元学习和注意力的小样本城市遥感影像信息提取方法， 其 特征在于： 在 “时空谱角 ”注意力模型中， 对于三维输入X， 首先经过沿着通道维的最大池化 和平均池化得到特征压缩后的两个全局特征描述； 然后， 通过hard ‑sigmoid形式的门机制 得到时间特征、 空间特征、 光谱特征和角度特征的权重XSS∈(0,1)； 最后， 将原始输入X与权 重XSS相乘； 通过网络在训练过程中不断学习， 对于重要的 “时空谱角 ”信息， 对应的权重接近于1； 对于不重要或者具有负面影响的噪声和冗余信息， 对应的权 重接近于0。 5.根据权利要求1或2或3或4所述基于元学习和注意力的小样本城市遥感影像信息提权　利　要　求　书 1/2 页 2 CN 114283345 A 2取方法， 其特 征在于：“时空谱角 ”特征向量根据以下公式计算得到， 式中， k′i表示第i类的类别最终的特征中心， ki代表初始时第i类的类别特征 中心， 代 表梯度， 表示按梯度优 化后的第i类的类别特征中心， j是无标记样本数量， l是标记样本 数量， ej,l是有标记样本和无标记样本相对应的特征， sum()表示括号内数值的和， vi是第i 类的概率分布特征中心， vi,j由j个第i类样本的类别概率向量更新得到的第i类的概率分布 特征中心， n表示总的样本数量， C为数据集中的类别个数， e为初始特征向量， p为 “时空谱 角”特征向量， Pj,l是第l类有标记样本和第j类无标记样本对应的预测概率， η表示更新系 数， 1[y＝ i]表示指示 函数。权　利　要　求　书 2/2 页 3 CN 114283345 A 3