(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211125090.8 (22)申请日 2022.09.13 (71)申请人 国网辽宁省电力有限公司信息通信 分公司 地址 110006 辽宁省沈阳市和平区宁波路 18号 申请人 国家电网有限公司 (72)发明人 高强　冉冉　刘育博　胡非　夏雨　 曲睿婷　白亮　邢子墨　黄梦彤　 (74)专利代理 机构 沈阳维特专利商标事务所 (普通合伙) 21229 专利代理师 张倩怡 (51)Int.Cl. G06Q 10/04(2012.01) G06Q 50/06(2012.01)G06N 3/04(2006.01) G06N 20/00(2019.01) (54)发明名称 基于长短期记忆神经网络的工业增加值预 测方法及系统 (57)摘要 本发明提供了一种基于长短期记忆网络的 工业增加值预测方法及系统， 包括获取历史的工 业增加值数据和工业增加值的影 响因素数据， 将 工业增加值数据和工业增加值的影响因素数据 按照时间序列形成训练数集； 在联邦学习框架下 对训练数集依次进行数据标准化、 平稳性检验和 特征筛选， 获取若干个稳态规范化最具影响力的 相关变量； 基于若干个稳态规范化最具影响力的 相关变量， 建立联邦学习框架下的长短期记忆网 络预测模型， 获取标准化后的目标时间的工业增 加值； 对标准化后的目标时间的工业增加值进行 数据标准化逆变换， 获取目标时间的工业增加值 实际预测结果。 通过平稳性检验、 特征筛选和数 据标准化处理， 使预测过程高效安全， 预测结果 准确。 权利要求书3页 说明书9页 附图2页 CN 115456279 A 2022.12.09 CN 115456279 A 1.一种基于长短期记忆网络的工业增加值预测方法， 其特征在于， 所述工业增加值预 测方法包括如下步骤： 获取历史 的工业增加值数据和所述工业增加值的影响因素数据， 将所述工业增加值数 据和所述工业增 加值的影响因素 数据按照时间序列形成训练数集； 在联邦学习框架下对所述训练数集依次进行数据标准化、 平稳性检验和特征筛选， 获 取若干个稳态规范化 最具影响力的相关变量； 基于若干个所述稳态规范化最具影响力的相关变量， 建立联邦学习框架下的长短期记 忆网络预测模型， 通过 所述长短期记 忆网络模型获取 标准化后的目标时间的工业增 加值； 对标准化后的所述目标时间的工业增加值进行数据标准化逆变换， 获取目标时间的工 业增加值的实际预测结果。 2.根据权利要求1所述的基于长短期记忆网络的工业增加值预测方法， 其特征在于， 所 述联邦学习框架由三个客户端和一个中心服 务器构成， 所述数据标准 化处理包括： 所述中心服务器将统一的数据规范化处理方法发送给所述联邦框架下的三个所述客 户端； 三个所述 客户端按照统一 规则与方法分布式进行本地数据的数据规范化处 理； 其中， 所述数据标椎化处理为将所述训练数集按比例缩放变换， 变换公式为： 其中， x为原始特征； xmin为特征最小 值； xmax为特征最大值； x ’为转换后的 特征。 3.根据权利要求2所述的基于长短期记忆网络的工业增加值预测方法， 其特征在于， 所 述平稳性检验 包括如下步骤： 所述中心服 务器将统一的平稳性检验方法发送给 所述联邦 框架下三个所述 客户端； 三个所述 客户端按照统一 规则与方法分布式进行本地数据的平稳性检验； 其中， 所述平稳性检验 包括如下步骤： 设定显著性水平， 构建三个平稳性检验 模型， 并假设所述训练数集是不平稳的； 将三个所述平稳性检验模型的显著性检验统计量与显著性水平比较， 如果所述显著性 检验统计量小于所述显著性水平， 则应拒绝假设； 否则， 不能拒绝假设； 如果三个模型中有 一个模型拒绝假设， 则所述训练数集是平稳的； 否则， 如果三个模型都不能拒绝假设， 则所 述训练数集是非平稳的； 若所述训练数集是非平稳的， 则对所述训练数集进行差分处理， 对差分后的所述训练 数集重新构建三个所述平稳性模型； 其中， 所述设定 显著性水平为当假设为 正确时所 犯错误的风险。 4.根据权利要求3所述的基于长短期记忆网络的工业增加值预测方法， 其特征在于， 构 建三个所述平稳性检验 模型的特 征方程分别为： 权　利　要　求　书 1/3 页 2 CN 115456279 A 2其中， Yt为训练数集； △为差分算子，△Yt＝Yt‑Yt‑1，△Yt‑i＝Yt‑i‑Yt‑i‑1； α 为常数项； β 、 β i 和 δ均为系数项； εi 为误差项； T为趋势项。 5.根据权利要求3所述的基于长短期记忆网络的工业增加值预测方法， 其特征在于， 所 述特征筛选包括： 所述中心服 务器将统一的特 征筛选方法发送给 联邦框架下的三个所述 客户端； 三个所述客户端按照统一规则与 方法分布式进行本地数据的特征筛选， 即计算本地各 所述工业增加值的影响因素数据的方差， 公式为： 其中， X为标准化后的特征 x’； μ为特征期望值； N 为特征值数量； σ2为各影响因素 数据的方差； 选取方差值大于阈值的所述影响因素 数据为所述 最具影响力的相关变量。 6.根据权利要求2所述的基于长短期记忆网络的工业增加值预测方法， 其特征在于， 所 述中心服务器向三个所述客户端发送初始化的长短期记忆网络预测模型， 所述建立联邦学 习框架包括： 三个所述客户端分别利用所述稳态规范化最具影响力的相关变量进行长短期记忆网 络预测模型的训练， 并将得到的模型参数和梯度经 过加密后传输 至所述中心服 务器； 所述中心服务器将所述加密后的所述模型参数和梯度采用联邦平均算法进行聚合， 形 成中间模型， 根据所述中间模型获取 更新后的模型参数和梯度； 所述中心服 务器将所述更新后的模型参数和梯度分别传输给三个所述 客户端； 三个所述客户端对所述更新后的模型参数和梯度进行解密， 并使用解密后的模型参数 和梯度结果更新 三个所述 客户端的模型参数和梯度； 根据迭代次数是否达到最大迭代次数判断是否结束： 若未结束， 则执行更新所述模型 参数和梯度及 迭代次数， 并重新进行所述长 短期记忆网络预测模型的训练； 若 结束， 则完成 整个所述长短期记 忆网络预测模型的训练过程； 其中， 所述联邦平均算法采用的目标函数为： 其中， 其中， fi(w)为每个客户端上加密后的模型参数和梯度； Pk为存储在第k个客户端中训练 数集； nk＝|Pk|为存储在第k个客户端中训练数集的个数； n为3个客户端的总训练数集的个 数， f(w)为更新后的模型参数和梯度。 7.根据权利要求6所述的基于长短期记忆网络的工业增加值预测方法， 其特征在于， 建 立所述长短期记 忆网络预测模型包括： 将当前时刻输入的所述稳态规范化最具影响力的相关变量设为Xt， 上一时刻的隐藏层 输出设为ht‑1， 建立所述长短期记 忆网络预测模型， 所述预测模型为： ht＝ot*tanh(Ct)……     (6) 其中， ot＝σ(Wo*[ht‑1,Xt]+bo)……     (7)权　利　要　求　书 2/3 页 3 CN 115456279 A 3