(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111388820.9 (22)申请日 2021.11.22 (71)申请人 郑州大学 地址 450001 河南省郑州市高新 技术开发 区科学大道100号 (72)发明人 王河山　刘玉玺　罗勇　王东署　 朱晓东　张衡　 (74)专利代理 机构 焦作市科彤知识产权代理事 务所(普通 合伙) 41133 代理人 杨晓彤 (51)Int.Cl. G06N 3/04(2006.01) G06N 3/08(2006.01) G06Q 10/04(2012.01) (54)发明名称 一种基于回声状态网络的时间序列预测方 法及设备 (57)摘要 本申请提供一种基于回声状态网络的时间 序列预测方法及设备， 本申请基于多层ESN网络 的基本结构和逻辑映射的机理， 提出一种可以有 效初始化多层ESN输入权重和储存池层之间连接 权重的LM初始化机制， LM可以增加多层ESN的层 与层之间的连接权重的混沌动力学特性， 而且还 可以增加多层ESN的泛化性能， 从而降低模型的 复杂度， 同时通过一种较新的剪枝方法 ‑偏置随 机失活算法对每个储存池层的冗余神经元进行 精准剪枝， 有效地提高多层ESN的性能， 而且可以 使每个储存池层更加稀 疏， 从而提高时间序列预 测精确度和效率。 权利要求书2页 说明书11页 附图2页 CN 113902105 A 2022.01.07 CN 113902105 A 1.一种基于回声状态网络的时间序列预测方法， 其特 征在于， 所述方法包括： 获取预测任务和时间序列数据； 构建多层回声状态网络模型， 引入逻辑映射算法重新构建输入权重和储存池层之间的 连接权重， 并利用偏置随机失活算法对所述多层回声状态网络模型进行优化， 得到时间序 列预测模型； 基于所述预测任务， 将所述时间序列数据输入所述时间序列预测模型中， 得到预测结 果。 2.根据权利要求1所述的方法， 其特征在于， 所述在所述多层回声状态网络模型中引入 逻辑映射 算法重新构建输入权 重和储存池层之间的连接 权重， 包括： 创建混沌序列， 公式如下： xp+1＝rxp(1‑xp)， 其中， x表示混沌序列， p＝0、 1、 2......n表示x的顺序， r为常数， a和b 表示常数r的变化 范围； 基于所述混沌序列， 利用逻辑映射算法得到所述多层回声状态网络模型的混沌权值矩 阵， 确定在所述多层回声状态网络模型中的输入层中的输入权 重， 公式如下： w(i,j+1)＝rw(i,j)(1‑w(i,j))， 其中， N表示第N个储存池层， 表示输入权值矩阵的第i行和第j列 的数值， i表示输入 权值矩阵的行， j 表示输入 权值矩阵的列， w(1,1)表示输入 权值矩阵的首个 数值， A和B表示可调节的实数参数； 并基于所述混沌权值矩阵确定所述多层回声状态网络模型中每个所述储存池层之间 的连接权重。 3.根据权利要求2所述的方法， 其特征在于， 所述利用偏置随机失活算法对所述多层回 声状态网络模型进行优化， 包括： 在所述多层回声状态网络模型中根据不同的储存池层神经元的激活值， 将每层的所述 储存池层神经 元分为两组， 分别设置不同的剪枝概 率并进行剪枝处 理。 4.根据权利要求3所述的方法， 其特征在于， 所述根据不同的储存池层神经元的激活 值， 将每层的所述储存池层神经元分为两组， 分别设置不同的剪枝概率并进行剪枝处理， 包 括： 获取每层所述储存池层神经元的激活值， 将所有所述储存池层神经元的激活值的中位 数作为激活阈值； 若所述储存池层神经元的激活值大于等于所述激活阈值， 则分配至低丢弃概率储存池 层神经元组， 并设置相应的剪枝概 率进行剪枝处 理； 若所述储存池层神经元的激活值小于所述激活阈值， 则分配至 高丢弃概率储存池层神 经元组， 并设置相应的剪枝概 率进行剪枝处 理。 5.根据权利要求1 ‑4任一项所述的方法， 其特征在于， 所述构建多层回声状态网络模权　利　要　求　书 1/2 页 2 CN 113902105 A 2型， 包括： 以经典单层回声状态网络模型为基础， 增加多个储存池层， 所述多个储存池层依次连 接； 引入新的变量即保持率， 所述保持率取0 到1之间的小数； 对输入权重和所有所述储存池层之间的连接权重进行缩放， 得多层回声状态网络模 型。 6.根据权利要求5所述的方法， 其特征在于， 所述方法还包括训练所述所述 时间序列 预 测模型， 包括： 获取样本数据集， 将所述样本数据集分为训练集和测试集， 对所述样本数据集进行归 一化处理， 初始化所述时间序列预测模型中的所有参数信息； 基于所述逻辑映射算法初始化所述输入权重和所有所述储存池层之间的连接权重起 点值， 并且将所述混沌权值矩阵赋予所述输入权重和所有 所述储存池层之 间的所述连接权 重； 将处理后的训练集中的数据通过输入层输入所述储存池层中， 计算得到所有储存池层 输出状态矩阵， 利用所述偏置随机失活算法进行剪枝处理， 得到剪枝后的储存池层输出状 态矩阵； 基于所述剪枝后的储存池层输出状态矩阵计算网络输出权重， 得到训练后的所述 时间 序列预测模型。 7.一种计算机可读介质， 其上存储有计算机可读指令， 所述计算机可读指令可被处理 器执行， 使所述处 理器实现如权利要求1至 6中任一项所述的方法。 8.一种基于回声状态网络的时间序列预测设备， 其特 征在于， 该设备包括： 一个或多个处 理器； 计算机可读介质， 用于存 储一个或多个 计算机可读指令， 当所述一个或多个计算机可读指令被所述一个或多个处理器执行， 使得所述一个或多 个处理器实现如权利要求1 ‑6中任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 113902105 A 3