说明:收录全网最新的团体标准 提供单次或批量下载
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210614127.7 (22)申请日 2022.05.31 (71)申请人 北京明略昭辉科技有限公司 地址 100082 北京市海淀区北三环西路25 号27号楼二层2020室 (72)发明人 刘伟硕 于皓 张杰  (74)专利代理 机构 北京超成律师事务所 1 1646 专利代理师 邓超 (51)Int.Cl. G06F 40/295(2020.01) G06F 16/36(2019.01) G06F 40/289(2020.01) G06N 3/08(2006.01) G06F 40/30(2020.01) (54)发明名称 一种针对文本中实体的识别方法、 装置及存 储介质 (57)摘要 本申请提供了一种针对文本中实体的识别 方法、 装置及存储介质, 包括: 确定待识别文本的 注意力向量; 基于预设知识图谱, 确定出待识别 文本中的目标词汇对应的实体特征向量和至少 一个第一知识表示向量; 实体知识表 示向量用于 表征目标词汇与预设知识 图谱中各个实体之间 的关联关系; 将待识别文本中的目标词汇对应的 实体特征向量和每个实体第一知识表示向量输 入至预先训练好的实体类别识别模型中的第一 多头注意力层, 确定每一个目标词汇对应的至少 一个第二知识表示向量; 将待识别文本的目标词 汇对应的第二知识表示向量和注意力向量输入 至聚合层, 确定待识别文本中的目标词汇对应的 实体类别。 从而提高了对文本中目标词汇对应的 实体类别确定的准确性。 权利要求书2页 说明书11页 附图5页 CN 115017906 A 2022.09.06 CN 115017906 A 1.一种针对文本中实体的识别方法, 其特 征在于, 所述识别方法包括: 确定待识别文本的注意力向量; 基于预设知识图谱, 确定出所述待识别文本 中的目标词汇对应的实体特征向量和至少 一个第一知识 表示向量; 将所述待识别文本中的目标词汇对应的实体特征向量和每个所述第一知识表示向量 输入至预先训练好的实体类别识别模型中的第一多头注意力层, 确定所述目标词汇对应的 第二知识 表示向量; 将所述待识别文本的目标词汇对应的第二知识表示向量和所述注意力向量输入至所 述实体类别识别模型中的聚合层, 确定所述待识别文本中的目标词汇对应的实体 类别。 2.根据权利要求1所述的识别方法, 其特征在于, 通过以下步骤确定待识别文本的注意 力向量: 对获取到的所述待识别文本进行分词处 理, 得到分词后的所述待识别文本; 将分词后的所述待识别文本输入至所述实体类别识别模型的第 二多头注意力层, 确定 所述待识别文本的注意力向量。 3.根据权利要求1所述的识别方法, 其特征在于, 所述基于预设知识图谱, 确定出所述 待识别文本中的目标词汇对应的实体特 征向量和至少一个第一知识 表示向量, 包括: 从所述预设知识图谱中获取所述目标词汇对应的目标节点的实体特征向量, 以及所述 目标节点相关联的至少一个相邻节点; 检测所述目标节点与所述相邻节点之间的节点指向方向; 若所述指向方向为正向方 向, 则将所述相邻节点的实体特征向量与所述相邻节点的节点关系向量相减, 确定出第一 向量结果, 将所述第一向量结果确定为所述第一知识 表示向量; 若所述指向方向为反向方向, 则将所述相邻节点的实体特征向量与 所述相邻节点的节 点关系向量相加, 确定出第二向量结果, 将所述第一向量结果确定为所述第一知识表示向 量。 4.根据权利要求1所述的识别方法, 其特征在于, 所述将所述待识别文本的目标词汇对 应的第二知识表示向量和所述注意力向量输入至所述 实体类别识别模型中的聚合层, 确定 所述待识别文本中的目标词汇对应的实体 类别, 包括: 第一权重与所述注意力向量的乘积, 确定出第一数值; 第二权重与所述第二知识 表示向量的乘积, 确定出第二数值; 所述第一数值与所述第二数值的加 和, 确定出第三数值; 所述第三数值与激活函数的乘积, 确定出所述待识别文本 中的目标词汇对应的实体类 别。 5.根据权利要求1所述的识别方法, 其特征在于, 通过以下步骤训练所述实体类别识别 模型: 获取多个样本词汇, 以及每 个所述样本词汇相对应的样本实体 类别信息; 基于所述多个样本词汇以及相对应的样本实体类别信息对初始神经网络模型进行迭 代训练处理, 确定出 所述实体 类别识别模型。 6.一种针对文本中实体的识别装置, 其特 征在于, 所述识别装置包括: 第一确定模块, 用于确定待识别文本的注意力向量;权 利 要 求 书 1/2 页 2 CN 115017906 A 2第二确定模块, 用于基于预设知识图谱, 确定出所述待识别文本中的目标词汇对应的 实体特征向量和至少一个第一知识 表示向量; 第三确定模块, 用于将所述待识别文本 中的目标词汇对应的实体特征向量和每个所述 第一知识表示向量输入至预先训练好的实体类别识别模型中的第一多头注意力 层, 确定所 述目标词汇对应的第二知识 表示向量; 实体类别确定模块, 用于将所述待识别文本的目标词汇对应的第 二知识表示向量和所 述注意力向量输入至所述 实体类别识别模型中的聚合层, 确定所述待识别文本中的目标词 汇对应的实体 类别。 7.根据权利要求6所述的识别装置, 其特征在于, 所述第 一确定模块通过以下步骤确定 待识别文本的注意力向量; 对获取到的所述待识别文本进行分词处 理, 得到分词后的所述待识别文本; 将分词后的所述待识别文本输入至所述实体类别识别模型的第 二多头注意力层, 确定 所述待识别文本的注意力向量。 8.根据权利要求6所述的识别装置, 其特征在于, 所述第 二确定模块在用于所述基于预 设知识图谱, 确定出所述待识别文本中的目标词汇对应的实体特征向量和至少一个第一知 识表示向量时, 所述第二确定模块具体用于: 从所述预设知识图谱中获取所述目标词汇对应的目标节点的实体特征向量, 以及所述 目标节点相关联的至少一个相邻节点; 检测所述目标节点与所述相邻节点之间的节点指向方向; 若所述指向方向为正向方 向, 则将所述相邻节点的实体特征向量与所述相邻节点的节点关系向量相减, 确定出第一 向量结果, 将所述第一向量结果确定为所述第一知识 表示向量; 若所述指向方向为反向方向, 则将所述目标词汇对应的实体特征向量与所述相邻节点 的节点关系向量相加, 确定出第二向量结果, 将所述第一向量结果确定为所述第一知识表 示向量。 9.一种电子设备, 其特征在于, 包括: 处理器、 存储器和总线, 所述存储器存储有所述处 理器可执行 的机器可读指令, 当电子设备运行时, 所述处理器与所述存储器之间通过所述 总线进行通信, 所述机器可读指 令被所述处理器运行时执行如权利要求 1至5任一所述的针 对文本中实体的识别方法的步骤。 10.一种计算机可读存储介质, 其特征在于, 所述计算机可读存储介质上存储有计算机 程序, 所述计算机程序被处理器运行时执行如权利要求 1至5任一所述的针对文本中实体的 识别方法的步骤。权 利 要 求 书 2/2 页 3 CN 115017906 A 3

.PDF文档 专利 一种针对文本中实体的识别方法、装置及存储介质

文档预览
中文文档 19 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共19页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种针对文本中实体的识别方法、装置及存储介质 第 1 页 专利 一种针对文本中实体的识别方法、装置及存储介质 第 2 页 专利 一种针对文本中实体的识别方法、装置及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常 于 2024-03-18 10:56:32上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。