(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211163276.2 (22)申请日 2022.09.23 (71)申请人 华东师范大学 地址 200241 上海市闵行区东川路5 00号 (72)发明人 王彬宇　王丽苹　宋培东　林学民　 (74)专利代理 机构 上海蓝迪专利商标事务所 (普通合伙) 31215 专利代理师 徐筱梅　张翔 (51)Int.Cl. G06K 9/00(2022.01) A61B 5/00(2006.01) A61B 5/346(2021.01) G06K 9/62(2022.01) G06N 3/04(2006.01) G06N 3/08(2006.01)G06F 17/16(2006.01) (54)发明名称 基于卷积与自注意力机制的多导联心电图 分类识别方法 (57)摘要 本发明公开了一种基于卷积与自注意力机 制的多导联心电图分类识别方法， 其主要包括层 次化自注 意力网络与卷积注意力网络。 层次化自 注意力网络利用自注意力机制可以捕捉跨越多 个心拍的长程依赖特征， 其中导联敏感机制利用 基于窗口的自注意力机制， 可以从时间维度和导 联维度两个视图计算自注意力得分， 从而关注不 同导联心电信号的特异性差别； 卷积注意力网络 利用局部心电信号波形随时间平移不变的归纳 偏置， 使用卷积提取局部波形特征， 关注局部关 键波形信息。 本发明提出的多导联心电图分类识 别方法可用于心电图多 标签分类任务中， 具有较 高的分类准确率。 权利要求书4页 说明书11页 附图4页 CN 115470828 A 2022.12.13 CN 115470828 A 1.一种基于卷积与自注意力机制的多导联心电图分类识别方法， 其特征在于， 所述心 电图分类识别方法包括： 步骤1： 对多导联心电数据进行预处理； 设 表示多导联心电数据， 其序列长 度为N， 导联数量为m， 即X为一个多变量时间序列， 表示为公式(1)所示的二维矩阵； 数据预 处理具体包括以下步骤： 步骤1.1： 使用高通滤波滤除频率在0 Hz至0.5Hz范围内的信号； 步骤1.2： 随后使用傅里叶变换将多导联心电数据 重采样为长度为n的时 间序列， 重采样后的输出为 其中n是满足32的整数倍的任意 正整数； 步骤2： 采用由多个阶段构成的层次化自注意力网络， 从步骤1处理后输出的心电信号 数据， 提取蕴含跨心拍长程依赖和特定导联 特征的特征向量； 具体包括以下步骤： 步骤2.1： 步骤1处理后输出的心电信号 首先送入心电片段嵌入层， 将心电信 号不重叠地划分为 个片段， 每个片段包含1 ×4个采样点； 随后用线性层将每个片段嵌 入为特征向量； 每个片段嵌入后的特征向量长度为超参数C， 设置为任意正整数； 本步骤的 输出为 步骤2.2： 在导联维度， 添加绝对位置编码； 对步骤2.1的输出结果 加上一 个可学习参数 即 其中 和 表示第i个导联的第 j个时间片段在绝对位置编码过程中的输入和输出， 是第i个导联的绝对位置编码 参数； 步骤2.3： 构建两种基于窗口的Trans former模块； 将标准Trans former模块中多头自注 意力机制替换为基于窗口的多头注意力机制， 多头 自注意力机制仅在窗口内计算； 具体构 建步骤如下： 设一个窗口中有l个片段， 基于窗口的多头自注意力机制在每个窗口内的计算过程如 下式： Qi＝YWiQ,Ki＝YWiK,Vi＝YWiV,1≤i≤h       (2) 其中 是一个窗口的输入， 片段 数量为l且每个片段 特征维度为d， 表示 一个窗口经过计 算后的输出， Qi、 Ki和 表示查询、 键和值,h表示自注意力头数量， Hi 表示第i个注意力头,WiQ、 WiK、 和 是可学习的权重参数， Concat表示 向量拼接运算， Attention表示自注意力运算； 依据窗口划分方式不同， 以所述机制为基础权　利　要　求　书 1/4 页 2 CN 115470828 A 2构建三种基于窗口 的多头自注意力机制， 分别为： 其一， 设机制输入为L ×T个片段， L和T分别表示在导联维度和时间维度的片段数量， 在 时间维度划分窗口， 设每个窗口的大小为 1×T′， T′是一个满足T ′≤T的超参数， 表 示在时间 维度上窗口的长度， 输入片段会被划分为 个不重叠的一维 窗口， 随后在窗口内计算 多头自注意力机制； 称为时间敏感的基于窗口的多头自注意力机制； 其二， 设机制输入为L ×T个片段， 在导联维度划分窗口， 窗口的大小为L ×1， 输入片段会被划分为1 ×T个不重叠 的一维窗口， 随后在窗口内计算多头 自注意力机制； 称为导联敏感的基于窗口的多头自注 意力机制； 其三， 经过其一所述时间敏感的基于窗口的多头自注意力机制划分窗口后， 将窗 口沿时间维度向左循环移动 个片段， 随后在移动后的窗口内计算多头自注意力机制； 称 为时间敏感的基于移动窗口 的多头自注意力机制； 对于所述时间敏感的基于窗口的多头自注意力机制与时间敏感的基于移动窗口的多 头自注意力机制， 添加时间维度上 的相对位置编码， 即将多头 自注意力的计算过程由公式 (3)替换为公式(5)： 其中Bi中的值是从 中选取的， 表示在时间维度上两片段相对位置范围在 [‑l+1,l‑1]之内的一个可 学习的相对位置编码参数； 依据所述三种基于窗口的多头自注意力机制， 分别构建以下两种基于窗口的 Transformer模块， 具体为： 其一， 分为3个子模块， 连续3个子模块的计算过程如公式(6) ‑(11)所示， 其中 和Yb分 别表示对于子模块b基于窗口的注意力层和多层感知机MLP 的输出， LN表示批标准化， TW ‑ MSA表示时间敏感的基于窗口的多头自注意力机制， LW ‑MSA表示导联敏感的基于窗口的多 头自注意力机制， TSW ‑MSA表示时间敏感的基于移动窗口的多头自注意力机制， 称为时间 ‑ 导联Transformer模块； 其二， 分为2个子模块， 连续2个子模块的计算过程如公式(12) ‑(15)所示， 公式中符号 含义与前述时间 ‑导联Transformer模块中相同； 称为时间Transformer模块； 权　利　要　求　书 2/4 页 3 CN 115470828 A 3