(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111583769.7 (22)申请日 2021.12.2 2 (71)申请人 大连理工大 学 地址 116024 辽宁省大连市甘井 子区凌工 路２ 号 (72)发明人 章靖凯　顾宏　余向军　秦攀　 (74)专利代理 机构 辽宁鸿文知识产权代理有限 公司 21102 代理人 苗青 (51)Int.Cl. G06F 30/27(2020.01) G06F 17/14(2006.01) G06F 17/16(2006.01) G06N 3/04(2006.01) G06N 3/08(2006.01)G06F 111/04(2020.01) G06F 113/08(2020.01) G06F 119/10(2020.01) G06F 119/12(2020.01) (54)发明名称 一种基于变分模态分解与注意力机制的风 速预测方法 (57)摘要 本发明属于风速预测方法技术领域， 提出了 一种基于变分模态分解与注意力机制的风速预 测方法。 考虑自然因素的影响， 研究多变量条件 下风速预测问题。 通过预处理已采集的数据进行 变分模态分解， 深度神经网络的输入序列； 深度 神经网络包括位置编码、 编码器与解码器； 位置 编码为输入信号提供相对位置信息； 编码器包括 注意力机制层、 前馈网络层与归一化残差连接 层， 用于神经网络模型捕获时序特征间的相互关 系； 解码器由双层全连接网络构成， 用于将编码 器获取的时序特征信息进行解构从而输出预测 值。 该方法能有效提高超短期风速预测精度； 对 操作平台没有限制， 使用灵活方便， 可移植性强， 风速预测性能优异。 权利要求书2页 说明书8页 附图2页 CN 114218870 A 2022.03.22 CN 114218870 A 1.一种基于变分模态分解与注意力机制的风速预测方法， 其特 征在于， 包括 步骤如下： 步骤一： 采集历史气象数据， 构建原始风速及相关协变量数据集， 对数据缺失或异常的 情况， 采用分权线性插值法填补数据； 步骤二： 数据预处理， 采用均值 ‑方差归一化方法将数据集中的数据缩放至同一尺度； 以8 ∶ 1∶ 1比例划分数据集 为训练集、 验证集与测试集； 步骤三： 变分模态分解； 取数据集一定步长的序列作为深度神经网络的输入序列u(t)， 对输入序列u(t)采用变分模态分解获得 K个具有特定模态的序列uk(t)， k＝1， 2...K； (3.1)将输入序列u(t)各模态经希尔伯特变换后的解析信号混合 为一预估中心频率： 其中， δ(t)为狄拉克函数， ωk为第k个模态的中心频率； K个模态之和为输入序列u(t)且各模态的估计带宽之和最小， 即： 其中， {uk}＝{u1，…， uK}， {ωk}＝{ω1，…， ωK}； (3.2)将式(2)的约束性变分问题变为非约束性变分问题： 式中， α为二次惩罚因子， 保证输入序列u(t)在混入噪声信号的情况下的重构精度； λ (t)为拉格朗日乘法算子， 保持约束条件严格性； 采用交替方向乘子法通过迭代 交替更新 和 求得式(2)中最优解； 各 模态新分量中心频率由下式表示： 分解后各模态新分量 为： 其中 ， n为算法迭代次 数 ， 与 分 别代表u (w) 、 与 λn(w)傅里叶变换； 分解后输入序列u(t)经傅里叶逆变换 取实部为：权　利　要　求　书 1/2 页 2 CN 114218870 A 2式中， F‑1(·)表示傅里叶逆变换， Real( ·)表示取复数实部； 步骤四： 分解后的K个分量{uk(t)}取实部作为融合注意力机制的深度神经网络的输入 信号， 以实际风速作为预测目标， 对深度神经网络进行参数训练、 验证或预测； 深度神经网 络包括位置编 码、 编码器与解码 器； 位置编 码为输入信号提供相对位置信息； 编 码器包括注 意力机制层、 前馈网络层与归一化残差连接层， 用于神经网络模型捕获时序特征间的相互 关系； 解码器由双层全连接网络构成， 用于将编码器获取 的时序特征信息进行解构从而输 出预测值。 2.根据权利要求1所述的基于变分模态分解与注意力机制的风速预测方法， 其特征在 于， 所述分权线性插值法如下： 其中， u(tmiss)代表序列tmiss时刻待填充的缺失或异 常值， u(tprev)为缺失或异 常值前距 其最近的tprev时刻的有效值， u(tnext)为缺失或异常值后距其 最近的tnext时刻的有效值。 3.根据权利要求1或2所述的基于变分模态分解与注意力 机制的风速预测方法， 其特征 在于， 所述位置编 码的构造方法具体如下： 输入序列u(t)的每个单点数据添加特有向量， 整 个输入序列信号注入位置信息； 通过构 造与输入序列u(t)维数一致的矩阵， 并与输入序列u (t)相加得到下一注意力机制层的输入； 其中， pos表示该单点数据在整个输入序列u(t)中的位置， dmodel是特有向量的维度， i表 示特有向量的位置 。 4.根据权利要求1或2所述的基于变分模态分解与注意力 机制的风速预测方法， 其特征 在于， 所述注 意力机制层中， 随机初始化三个维度相同的矩阵WQ， WK和WV， 使用这三个矩阵分 别对输入序列u(t)做线性变换， 得到结果记为查询向量Q和键向量K与值向量V， 并将三者通 过计算映射到一个输出矩阵， 其中分配给每个值的权重由查询向量Q与相应键向量K的兼容 性函数softmax函数计算； 输出矩阵计算 为： 其中 为矩阵K列维数 取平方根， 用于防止训练不稳定 。 5.根据权利要求1或2所述的基于变分模态分解与注意力 机制的风速预测方法， 其特征 在于， 通过设置 h个注意力机制层形成多头注意力机制层。权　利　要　求　书 2/2 页 3 CN 114218870 A 3