(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211233665.8 (22)申请日 2022.10.10 (71)申请人 上海交通大 学深圳研究院 地址 518000 广东省深圳市粤海街道高新 区南区虚拟大 学园楼B202 申请人 上海交通大 学　杭州电子科技大 学 (72)发明人 蒋炜　张忠良　朱海瑞　郑志强　 陈畴镛　 (74)专利代理 机构 上海锻创知识产权代理有限 公司 314 48 专利代理师 陈少凌 (51)Int.Cl. G06F 30/17(2020.01) G06F 30/27(2020.01) G06N 3/04(2006.01)G06N 3/08(2006.01) G06F 119/04(2020.01) G06F 119/12(2020.01) (54)发明名称 基于MSD-MHNN的设备剩余使用寿命预测方 法和系统 (57)摘要 本发明提供了一种基于MSD ‑MHNN的设备剩 余使用寿命预测方法和系统， 包括： 采集发动机 状态监测数据并对所述数据进行预处理； MHNN模 型对预处理后的数据进行特征学习以及对每个 时间点的数据进行特征加权， 得到多个退化特 征； 将MSD机制融合至MHNN模型生成MSD ‑MHNN模 型， 对所述MSD ‑MHNN模型训练后得到剩余使用寿 命预测结果； 本发明通过MHNN结构构建和MSD机 制结合起来， 实验结果表明， MSD ‑MHNN在发动机 RUL预测方面可行性和鲁棒性更好， 且MSD ‑MHNN 模型提高了发动机设备剩余使用寿 命预测精度。 权利要求书5页 说明书16页 附图3页 CN 115510586 A 2022.12.23 CN 115510586 A 1.一种基于 MSD‑MHNN的设备剩余使用寿命预测方法， 其特 征在于， 包括： 步骤S1： 采集发动机状态监测数据并对所述数据进行 预处理； 步骤S2： MHNN模型对预处理后的数据进行特征学习以及对每个时间点的数据进行特征 加权， 得到多个退化特征， 所述退化特征与多头神经网络结构提取的特征进行串联结合， 记 为串联特征向量； 步骤S3： 把所述串联特征向量作为输入特征向量， 将MSD机制融合至MHNN模型生成MSD ‑ MHNN模型， 对所述MS D‑MHNN模型训练后得到剩余使用寿命预测结果。 2.根据权利 要求1所述的基于MSD ‑MHNN的设备剩余使用寿命预测方法， 其特征在于， 步 骤S1包括： 步骤S1.1： 选取发动机状态监测数据中的传感器信号、 运行参数和当前运行周期作为 输入数据； 步骤S1.2： 利用min ‑max策略对所述输入数据进行归一化处理， 将所述输入数据映射到 [0， 1]范围内以消除数据间的尺度偏差， 计算公式如下： 其中， Xi， norm表示归一化的传感器数据， Xi是第i个传感器的时间序列值， Xi， max、 Xi， min分 别表示第i个传感器的时间序列值的最大值、 最小值； 步骤S1.3： 采用滑动时间窗口重新划分归一化的数据和包装不同时间步长的数据点以 捕获发动机退化数据中的时间依赖关系， 关系式如下： X＝[x1， x2，…， xS]∈RT×S 其中， X表示多个传感器采集到发动机的多元时序数据， R表示多条发动机多元时序数 据组成的集合， RT×S表示时间窗口T中S个传感器采集到发动机的时序数据集合， RT×1表示时 间窗口T中每个传感器采集到发动机的时序数据集合， R1×S表示S个传感器在每个时间步长 采集到发动机的时序数据集合； T、 S分别表示时间窗口大小、 所选特征的数量， xs表示第s个 传感器的时序数据， xt来表示时间t的传感器监测向量， 表示第t个时间步的第S个传感器 的时序数据； 步骤S1.4： 采用剩余使用寿命函数构建标签， 将剩余使用寿命标签设置为分段线性函 数， 公式如下： 其中， Rinit表示初始阶段的RUL， Rreal、 Rlabel分别表示训练样本的真实RUL、 修正后的RUL 标签。 3.根据权利 要求1所述的基于MSD ‑MHNN的设备剩余使用寿命预测方法， 其特征在于， 步 骤S2包括： 步骤S2.1： 采用LSTM网络构建的LSTM模块， 所述LSTM模块用于发动机退化特征学习以 学习退化数据中更深层次的时序特征， 并采用Dr opout和早停两种正则化方法防止过拟合，权　利　要　求　书 1/5 页 2 CN 115510586 A 2其中， LSTM网络具体： ft＝σ(Wfxt+Wfht‑1+bf) it＝σ(Wixt+Wiht‑1+bi) Ot＝σ(Woxt+Woht‑1+bo) gt＝tanh(Wgxt+Wght‑1+bg) 其中， xt表示t时刻输入信息， it、 ft、 Ot分别表示t时刻对应的输入门、 遗忘门、 输出门； Wf、 Wi、 Wg、 Wo分别表示遗忘门、 输入门、 记忆单元、 输出门的权重， bf、 bi、 bg、 bo分别表示遗忘 门、 输入门、 记忆 单元、 输出门的偏置； σ(.)表示sigmoid函数； ht‑1、 ht分别表示t ‑1、 t时刻的 隐藏层信息； 表示逐元素乘法； Ct表示t时刻的记 忆单元信息， Ct‑1表示t‑1时刻的记忆单 元 信息； gt表示t时刻候选记 忆单元信息； 步骤S2.2： 建立注意力模块， 所述注意力模块用于退化特征权重的计算及加权， 采用 Permute层将输入维度的2、 1轴反转， 采用激活函数为softmax的全连接层计算每个时间步 长的权重， 再利用Permute层将维度还原后输出， 最后将Permute层的输出与LSTM模块的输 出相乘， 进行全局的时间特 征加权； 步骤S2.3： 采用多个不同且并行的网络捕获更多的退化特征， 并利用连接层将多头神 经网络结构提取的特 征进行串联 结合， 具体： MHNNoutput＝concat[head1， head2，…， headm]。 其中， headm表示多头神经网络结构提取的第m特征， m表示多头神经网络结构提取的特 征的数量， MHNNoutput表示多头神经网络结构提取的特征的串联特征向量， concat[]表示将 多头神经网络结构提取的多个特 征进行串联 结合的连接层。 4.根据权利 要求1所述的基于MSD ‑MHNN的设备剩余使用寿命预测方法， 其特征在于， 步 骤S3包括： 步骤S3.1： 将MHNNoutput作为输入特征向量， 采用MSD机制对所述输入特征向量进行多次 Dropout正则化， 得到多个不同的特 征向量； 步骤S3.2： 采用Dense对每 个不同的特 征向量进行 标签预测， 得到标签的概 率预测； 步骤S3.3： 通过简单平均法， 计算得到最终的概率预测从而输出发动机剩余使用寿命 预测结果， 计算公式如下： 其中， x表示输入特征向量经多次Dropout正则化后得到的多个不 同的特征向量， D(x) 表示标签的最终概率预测， n表示特征向量的数量， Di(x)表示第i个特征向量经Dense得到 标签的概 率预测。 5.根据权利 要求4所述的基于MSD ‑MHNN的设备剩余使用寿命预测方法， 其特征在于， 在 所述MSD‑MHNN模型的训练中， 采用早停机制获取最佳训练迭代数； 如果验证损失在连续多 个迭代内没有 下降， 则提前终止训练模 型； 此外， 将学习率衰减方法与提前停止方法协同作 用， 如果模型验证损失在连续多个迭代内没有下降， 学习率自动降低； 选择均方误差作为损权　利　要　求　书 2/5 页 3 CN 115510586 A 3