(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111628171.5 (22)申请日 2021.12.28 (71)申请人 大连理工大 学 地址 116024 辽宁省大连市甘井 子区凌工 路２ 号 (72)发明人 王梓懿　王智慧　李豪杰　叶昕辰　 (74)专利代理 机构 辽宁鸿文知识产权代理有限 公司 21102 代理人 苗青 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) (54)发明名称 一种基于鲁棒软标签的深度适应网络的构 建方法 (57)摘要 本发明属于计算机视觉领域， 提供了一种基 于鲁棒软标签的深度适应网络的构建方法。 本方 法通过最大化预测概率矩阵的核范数， 在滤除噪 声概率的同时保留重要的概率， 从而产生一种新 的标签形式， 然后将新的标签形式以概率加权的 方式重新表述标签诱导损失， 如CMMD、 类内距离 和类间距离。 本发明证明了经过核范数约束的鲁 棒软标签相比于传统的硬标签和软标签拥有更 可靠的表征能力， 以概率加权的方式重新表述标 签诱导损失也被证明是可解释性和合理性更强 的损失函数建模， 从而解决了传统硬标签和软标 签在建模标签相关损失时偏差过大的问题。 权利要求书3页 说明书6页 附图1页 CN 114372559 A 2022.04.19 CN 114372559 A 1.一种基于 鲁棒软标签的深度适应网络的构建方法， 其特 征在于， 步骤如下： (1)获取输入数据的预测概 率矩阵： 首先加载经过预训练的ResNet的网络参数， 并将最后一个平均池化层 之后的设置替换 成一个具有256个单元的瓶颈层fcb， 将改动后的网络作为 特征提取网络； 然后将批 量数据输 入到特征提取网络， 并将获得的特 征输入softmax函数， 获得 所需的预测概 率矩阵： 其中， Xs为源域数据， Xt为目标域数据， G为特征提取网络， F为softmax函数， 为所需 的源域数据的预测概 率矩阵， 为所需的目标域数据的预测概 率矩阵； (2)最小化源域数据的交叉熵损失： 通过最小化源域数据 预测概率和真实标签的交叉熵损失， 特征提取网络获得对源域数 据的特征表示能力； 其中， CE表示交叉熵函数， 为步骤(1)中输出的源域数据的预测 标签， Ys为源域数据 的真实标签； (3)最大化目标域预测概 率矩阵的核范 数 矩阵的核范数是通过对矩阵的奇异值加和求得； 首先对目标域概率矩阵进行奇异值分 解： 其中， ∑是一个B×C的矩阵， B为批量数据的数量， C为类别数， ∑的主对角线上的每个 元素都称为奇异值， 其 余元素都为零； 然后通过对目标域 概率矩阵的奇异值 求和得到预测概 率矩阵的核范 数： 其中， ∑ii表示Σ矩阵的主对角线元 素， min(B,C)表示B和C的最小值； (4)将新的标签形式以概 率加权的方式重新表述标签诱 导损失： 当获得了新的标签形式， 将类M MD的分布 距离损失以概 率加权的方式重新表述如下： 权　利　要　求　书 1/3 页 2 CN 114372559 A 2其中， 表示希尔伯特 ‑施密特范数， 表示第i个源域样本， 表示第j个目标域样 本， φ表示希尔伯特 空间的特征映射， ns表示源域样 本的数量， nt表示目标域样本的数量， L3 损失通过计算源域和目标域之间每个类的均值差， 以最小化两个域之间的条件分布偏移； 表示源域第 i个样本对第C类均值的贡献， 表示源域第i个样本在第C类的真实标签， 表示对所有属于第C类的样本在第C类的真 实标签求和； 表示目标域第i个样本对 第C类均值 的贡献， 表示源域第i个样本在第C类的鲁棒软标签， 表示对所有属于 第C类的样本在第C类的鲁棒软 标签求和； 同样， 用概 率的方式重新表述源域的类内和类间距离， 如下 所示： 其中， 第一项是类内距离， 第二项是类间距离， || ·||2表示2‑范数， b1和b2是两个给定 的阈值， 分别 为0和100， 是由源域所有样本由真实标签加权求得的各类中心， 是由源 域所有属于第i类样本求得类中心， 同理； 类内距离的目标是使类中心点与属于该类的 每个样本之间的距离最小， 类间距离的目标是使两个不同类中心点之间的距离最大， 从而 提高了特 征识别能力； 同样， 我们给 出目标域的两个距离如下 所示：权　利　要　求　书 2/3 页 3 CN 114372559 A 3