(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210311581.5 (22)申请日 2022.03.28 (71)申请人 西安电子科技大 学 地址 710000 陕西省西安市雁塔区太白南 路2号 (72)发明人 秦翰林　林凯东　马琳　朱文锐　 延翔　侯本照　张天吉　代杨　 梁毅　 (74)专利代理 机构 西安嘉思特知识产权代理事 务所(普通 合伙) 6123 0 专利代理师 方婷 (51)Int.Cl. G06V 10/40(2022.01) G06V 10/56(2022.01) G06V 10/80(2022.01)G06V 10/82(2022.01) G06V 10/26(2022.01) G06K 9/62(2022.01) G06N 3/04(2006.01) (54)发明名称 基于多头自注意力的激光点云特征提取方 法及装置 (57)摘要 本发明公开了一种基于多头自注意力的激 光点云特征提取方法及装置， 该方法包括： 获取 激光雷达的原始点云信息； 对原始点云信息进行 体素分割， 得到深度图； 对深度图进行低级特征 提取， 得到低级特征图； 基于级联的自注意力感 知网络对低级特征图依次进行多次特征感知， 得 到高级特征图； 将低级特征图和高级特征图进行 融合， 得到最终的点云特征图。 该方法同时兼顾 了原始图像的高级特征与低级特征， 充分利用了 原始点云的三维信息， 有效防止了在多层特征提 取下丢失低级特征的问题， 提高了特征对原始数 据的表达能力， 进而提升了后续检测精度和效 率。 权利要求书2页 说明书7页 附图3页 CN 114743014 A 2022.07.12 CN 114743014 A 1.一种基于多头自注意力的激光 点云特征提取方法， 其特 征在于， 包括： 步骤1： 获取激光雷达的原 始点云信息； 步骤2： 对所述原 始点云信息进行体素分割， 得到深度图； 步骤3： 对所述深度图进行低级特 征提取， 得到低级特 征图； 步骤4： 基于级联的自注意力感知网络对所述低级特征图依次进行多次特征感知， 得到 高级特征图； 步骤5： 将所述低级特 征图和所述高级特 征图进行融合， 得到最终的点云特 征图。 2.根据权利要求1所述的基于多头自注意力的激光点云特征提取方法， 其特征在于， 步 骤3具体包括： 利用第一卷积层 对所述深度图进 行低级特征提取， 得到低级 特征图； 其中， 所 述第一卷积层包括 一个3*3卷积核。 3.根据权利要求1所述的基于多头自注意力的激光点云特征提取方法， 其特征在于， 在 步骤4中， 所述自注意力感知网络包括多个级联的特征感知模块和第二卷积层； 其中， 所述 第二卷积层包括 一个3*3卷积； 则步骤4具体包括： 依次利用多个特 征感知模块对所述低级特 征图进行 特征感知； 利用第二卷积层对最后一级特 征感知模块的输出进行处 理， 得到高级特 征图。 4.根据权利要求3所述的基于多头自注意力的激光点云特征提取方法， 其特征在于， 每 个所述特征感知模块包括多个级联的特征提取单元和第三卷积层； 其中， 所述第三卷积层 包括一个3*3卷积核； 则每个特征感知模块对所述低级特 征图进行 特征感知的具体过程包括： 利用第一级特 征提取单元对当前级特 征感知模块的输入进行 特征提取； 将当前级特 征提取单元的输出作为下一级特 征提取单元的输入， 依次进行 特征提取； 利用所述第 三卷积层对最后一级特征提取单元的输出进行特征提取， 得到当前特征感 知模块的输出。 5.根据权利要求4所述的基于多头自注意力的激光点云特征提取方法， 其特征在于， 每 个所述特征提取单元包括自注意力感知层和多层感知机； 则每个特征提取单元对输入特征 的处理过程包括： 利用所述自注意力感知 层对当前 特征提取单元的输入进行处 理， 得到第一特 征图； 将当前特征提取单元的输入和所述第一特 征图进行融合处 理， 得到第二特 征图； 利用所述多层感知机对所述第二特 征图进行处 理， 得到第三特 征图； 将所述第三特 征图和所述第二特 征图进行融合处 理， 得到当前 特征提取单元的输出。 6.根据权利要求5所述的基于多头自注意力的激光点云特征提取方法， 其特征在于， 利 用所述自注意力感知 层对当前 特征提取单元的输入进行处 理， 得到第一特 征图， 包括： 设置通道数为C， 窗口大小为M， 以将当前特征提取单元的输入图像划分为M ×M×C个图 像块； 利用所述自注意力感知 层中的权 重矩阵集计算每 个图像块的单头注意力值 Q、 K、 V； 根据所述单头注意力值计算每 个图像块与其 他图像块之间的得分， 计算公式为： Scorei→j＝Qi·Kj 其中， Scorei→j指第i个图像块对第j个图像块的分数， Qi表示第i个图像块的单头注意权　利　要　求　书 1/2 页 2 CN 114743014 A 2力Q值， Kj表示第j个图像块的单头注意力K值； 对每个图像块进行相对位置编码， 得到编码矩阵； 利用Softmax函数对每 个图像块的得分进行归一 化处理； 对归一化处理后图像块计算 其标准自注意力； 将计算得到的标准自注意力进行聚合， 得到第一特 征图。 7.根据权利要求5所述的基于多头自注意力的激光点云特征提取方法， 其特征在于， 每 个所述特 征提取单元还包括第一归一 化层和第二归一 化层； 所述第一归一化层具体用于在利用所述自注意力感知层对当前特征提取单元的输入 进行处理之前， 对当前 特征提取单元的输入进行归一 化处理； 所述第二归一化层具体用于在利用所述多层感知机对所述第 二特征图进行处理之前， 对所述第二特 征图进行归一 化处理。 8.根据权利要求5所述的基于多头自注意力的激光点云特征提取方法， 其特征在于， 所 述多层感知机包括两个全连接层和一个GELU激活函数。 9.一种基于多头自注意力的激光 点云特征提取装置， 其特 征在于， 包括： 数据获取模块(1)， 用于获取激光雷达的原 始点云信息； 体素分割模块(2)， 用于对所述原 始点云信息进行体素分割， 得到深度图； 低级特征提取模块(3)， 用于对所述深度图进行低级次特 征提取， 得到低级特 征图； 高级特征提取模块(4)， 包括多个级联的特征感知模块， 用于基于自注意力感知网络对 所述低级特 征图依次进行多次特 征感知， 得到高级特 征图； 特征融合模块(5)， 连接所述低级特征提取模块(3)和所述 高级特征提取模块(4)， 用于 将所述低级特 征图和所述高级特 征图进行融合， 得到最终的点云特 征图。 10.根据权利要求9所述的基于多头自注意力的激光点云特征提取装置， 其特征在于， 每个所述特征感知 模块包括多个级联的特征提取单元， 每个所述特征提取单元均包括一个 自注意力感知 层和一个多层感知机 。权　利　要　求　书 2/2 页 3 CN 114743014 A 3