(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210549260.9 (22)申请日 2022.05.20 (71)申请人 矩阵纵横 （北京） 科技有限公司 地址 100000 北京市海淀区安宁庄路26号 楼6层601B (72)发明人 张鹏　 (74)专利代理 机构 北京世誉鑫诚专利代理有限 公司 11368 专利代理师 刘秀珍 (51)Int.Cl. G06F 16/36(2019.01) G06F 40/295(2020.01) G06N 3/04(2006.01) (54)发明名称 一种具有 归纳能力的知识图谱推理方法 (57)摘要 本发明提供的一种具有归纳能力的知识图 谱推理方法， 对给定的知识图谱， 需要先抽取出 每一个三元组的闭合子图并利用关系表征来初 始化实体表征， 之后打乱实体表征得到负样本图 谱。 之后将正负样本图谱中的子图输入到子图神 经网络， 分别通过图神经网络学习子图实体表征 以及通过循环神经网络学习关系路径表征， 并结 合二者形成最终的子图表征。 之后通过打分函数 对正样本图谱中的三元组进行打分进行有监督 学习， 同时通过互信息最大化的方法实现无监督 学习， 并结合二者更新模型参数。 能够充分利用 子图结构信息及关系表征对新图谱实现归纳式 的推理， 从而更好 地对新知识图谱 进行补全。 权利要求书2页 说明书7页 附图3页 CN 115408531 A 2022.11.29 CN 115408531 A 1.一种具有归纳能力的知识图谱推理方法， 其特 征在于， 所述推理方法包括： 给定知识图谱， 利用广 度优先搜索算法抽取 出每一个目标三元组(u,rt,v)的闭合子图； 获取所述闭合子图的实体， 采用聚合关系表征的方式初始化实体表征； 将含有实体表征和关系表征的所述闭合子图输入到图神经网络中； 获取所述闭合子图的关系路径 表征； 将所述闭合子图的实体表征及所述关系路径表征进行连结， 获得所述闭合子图的表征 信息； 根据每个所述目标三元组， 利用所述表征信息对 存在可能性进行打 分； 根据每个所述目标三元组， 创建负样本三元组， 并根据每个所述目标三元组的标签进 行有监督损失函数： 其中(u',r't,v')为负 样本三元组， γ为超参数； 基于互信息最大化原理进行 无监督学习； 将所述有监 督学习与所述无监 督学习结合 起来进行联合学习训练。 2.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述闭 合子图内的最长路径为3 。 3.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述获 取所述闭合子图的实体， 采用聚合关系表征的方式初始化实体表征 具体包括： 对于每个结点i， 通过注意力值αr聚合周围的关系表征 er， 生成 根据目标头尾实体(u,v)的相对位置， 获得位置信息 结合hrel与hpos获得子图内每 个结点的初始化表征h0。 4.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述将 含有实体表征和关系表征的所述闭合子图输入到图神经网络中具体包括： 子图神经网络中关于图神经网络所示， 每层的信息传递公式为： mi， r＝σ2(W2ci， r+b2) 其中， 表示实体i的邻接结点 集合， W为可学习的映射矩阵， k 为当前层数； 在最后一层聚合所有实体表征作为子图的实体表征 5.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述获 取所述闭合子图的关系路径 表征具体包括：权　利　要　求　书 1/2 页 2 CN 115408531 A 2关系路径(ru,rt,rv)， 包括头实体的关系， 目标关系， 尾实体的关系； 将每一个关系路径输入到循环神经网络GRU中得到关系路径表征p， 并聚合子图内所有 的关系路径 表征， 生成子图的关系路径 表征 6.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述闭 合子图的表征信息 7.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述利 用所述表征信息对 存在可能性进行打 分具体包括： 利用其闭合子图表征对其存在可能性进行打 分， 打分函数为： 其中L为图神经网络的层数。 8.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述基 于互信息最大化原理进行 无监督学习具体包括： 对正样本图谱G中每 个实体表征h0进行打乱， 获得负 样本图谱 对负样本图谱 进行与正样本图谱G处理， 生成负样本中每个目标三元组的子图表征信 息 对于正样本图谱G， 聚合所有的子图表征 得到正样本图谱的全局表征sG； 在得到正样本子图表征 负样本子图表征 图谱全局表征 sG后， 通过最大化 与sG 之间的互信息， 最小化 与sG间的互信息进行 无监督学习， 无监 督损失函数如下公式所示 其中 为计算两个 变量互信息的函数。 9.根据权利要求1所述的一种具有归纳能力的知识图谱推理方法， 其特征在于， 所述将 所述有监 督学习与所述无监 督学习结合 起来进行联合学习训练具体包括： 将有监督学习与无监 督学习结合 起来进行联合学习训练： 其中λ为比例系数， 需要提前设置 。权　利　要　求　书 2/2 页 3 CN 115408531 A 3